ログイン
生成AIがもたらす2つの具体的な過激化リスク
このような背景のもと、生成AIがもたらす具体的な過激化リスクは大きく二つに分類される。
第一に、悪意あるカスタマイズによる「勧誘専用AI」の出現リスクである。テロ組織や過激派グループが、オープンソースの大規模言語モデルを独自に微調整し、一般的な商用AIに施されている倫理的な制限や安全ガードレールを意図的に排除した独自のAIを開発・運用する事例が懸念されている。
このような最初から悪意を持って設計されたAIは、アクセスしてきた個人に対して、洗練された心理誘導の手法を用いてテロの正当性や特定の教義への忠誠を説くことができる。
かつてのアルカイダやイスラム国の勧誘員とは異なり、AIは同時に数千、数万の人間と個別に、かつそれぞれの心理状態や好みに最適化された対話を同時並行で進めることができる。これにより、過激化の効率と規模は大幅に向上することが懸念されよう。
第二に、悪意のない一般的なAIの利用過程において発生する、認知の歪みの増幅とハルシネーション（事実とは異なる情報の生成）のリスクである。
ユーザーが特定の陰謀論や過激な思想、差別的な見解を前提とした問いかけを執拗に繰り返した場合、AIの対話の方向性がユーザーの入力に引きずられる現象が生じる。
AIは基本的にユーザーの意図や関心に沿った回答を出力しようとする傾向があるため、結果としてユーザーの偏見や憎悪を追認し、さらにそれを精緻化した論理で補強してしまう。
これにAI特有のハルシネーションが加わると、存在しない歴史的事実や偽の陰謀論がさも真実であるかのように提示され、個人の脳内で過激な思想が誰にも気づかれないまま自己増殖していくことになる。
かつてのローンウルフは、組織のプロパガンダを読み込み、ネット上の同志を探す過程で過激化していった。
しかしAI時代の過激化は、組織という媒介すら必要としない場合がある。AIとの密室での対話を通じて、個人の内に秘められた不満が純化され、過激な行動への動機付けが静かに、そして急速に形成されていくのである。
