むちゃくちゃ皮肉な話ね、と彼女は言った。「とにかく安全第一、誰にも悪用はさせないって信念から生まれた会社を、アメリカ政府が安全保障上の重大なリスクと認定し、その会社が請け負っていた業務をライバルの、それも破滅的なリスクを招く恐れありとみて袂を分かった企業に与えた。こんな話、絶対にあり得ない」

彼女は筆者の大学の同僚で、AIの若き専門家だ。今年の春先にエジプトで開かれたAIに関する国際会議でのこと。当時は自社のAIを「誰にも悪用させない」と誓う開発企業アンソロピックと、それを軍事にフル活用したい米国防総省の対立がメディアをにぎわしていた。

アンソロピックは、チャットGPTで知られるオープンAIの元幹部たちが2021年に立ち上げた会社だ（7人の共同創設者を含む16人がオープンAI出身）。もともと非営利団体だったオープンAIの商業化を急ぐ同社の経営姿勢に、彼らは実存的な危機感を抱いた。AIは人類の文明を変え得るテクノロジーだが、拙速に営利を追求すれば安全性が軽視され、取り返しのつかないことになる。彼らはそう信じた。

だからアンソロピックの人たちは、自社製AIシステムの基本アーキテクチャーの根っこに最も厳格な信頼原則を置いた。彼らはオープンAIが招くであろう危険を見据え、それを防ぐために、もっと安全で「憲法を守るAI」を作ることにした。

次のページ
アンソロピックのAIが守る「憲法」とは
【関連記事】