「騙されるAI」0.001％の誤情報の混入で誤った回答を導く巨大な罠

騙されてネット犯罪の手先になるかもしれないAI

「2026年目にする情報の半分以上は偽・誤情報になる」と書いたのは昨年12月の頭だったが、予想を上回る勢いで偽・誤情報が増加しており、AIはその中で重要な役割を果たすと考えていた。

しかし、予想以上の働きぶりだ。この先のことを考えると不安が増すばかりだ。

我々はAIを便利な道具として使っている。しかし、AIは簡単に騙される道具なのだ。道具といってもトンカチも包丁も想定外のことを騙されてすることはない。スマホでは、バグやマルウェアのせいで、そういうことが起きる。

しかし、それは決してスマホが自律的にしているわけではない。騙されたAIは自律的に正しいことと判断しているのがやっかいだ。すでに多くのスマホにはAIが入ってしまっているので、自律的に人を騙すように操られる可能性がある。

「でも、それはロシアの世論操作の話しでしょ。一般人の日常生活には影響ないでしょう」と考えるのは誤りである。

ロシアが構築したPravdaネットワークは規模こそ大きいが、莫大なコストがかかるわけではない。

昨年、ウォールストリートジャーナルの記者が、フリーランスのマッチングサイトでおよそ1万5千円でAIで自動更新されるプロパガンダ目的のニュースサイトの作成を依頼し、48時間で納品された記事が掲載された。