ログイン
AIの脅威は、誰の情報で語られるのか
AIの脅威が存在しないと言いたいのではない。AIによる人類の滅亡や衰退の可能性は決して低くないと私は思うし、両社の危機感も本物だと思う。
しかし、2026年夏以降に公表され、脅威の実例として語られてきたインシデントのうち、テスト中に外部のシステムへ無断で侵入したインシデントは、原因と件数の分かる範囲では多くがテストの不備から生じたものだ（安保理でも取り上げられたHugging Faceへの侵入は例外であり、豪州のインシデントは調査が続いている。原因が公表されていないインシデントもある）。
その詳細も件数も公表の時期も、公開資料を見るかぎり、多くは当事者の企業の判断にゆだねられているように見える。
同じAFPの記事によれば、同パネル共同議長のBengio氏は、大声で叫ぶことの問題は相手も同じように大声で叫び返せることだと述べ、リスクの深刻さや不確実性も含めて、何が起きているのかを世界全体で合理的に議論する必要を訴えた。
ただ、その議論の材料となる事故の記録の多くを出すのは、規制の行方に大きな利害を持つ当事者である。脅威論を唱える企業は、脅威の実例の多くについて、出す時期も件数も左右できる立場にある。そのことを差し引かずに脅威論を聞けば、議論は彼らが材料を出す順番どおりに進むことになるだろう。
脱稿後、OpenAIや第三者機関が大量のインシデントがあることを公表した。公開された範囲のものを集めると35件あった（数え方によって異なる）。さらにまだあるという。35件をざっと分類すると、AIモデルが主要な原因のものの数が増加していた。OpenAIが最初の発見者であることが多く、発見から公開あるいは通知までの中央値は49日と長かった。
AIモデルの脅威が本稿で想定したよりも高かったことがわかったが、インシデントの公開によって世論が影響を受けるという傾向は変わらなかった。多くのメディアがOpenAIなどの発表をこぞって記事にしていた。
9.11から25年。安価なドローンとAIとSNSの普及で、テロ組織は力を蓄え、脅威を増している
