Echo Wang Aditya Soni
[28日 ロイター] - 人工知能(AI)開発企業アンソロピックは新規株式公開(IPO)に際し、AIが「人類に壊滅的な被害や存亡に関わるリスク」をもたらす可能性があると投資家に警告する。ロイターが入手したIPO目論見書で分かった。
アンソロピックは目論見書で、自社のAIモデルに伴うリスクを列挙。「停止への抵抗」「情報の隠蔽・操作」の試みや「脅迫に似た」行動など「自己保存的な行動」を示す可能性があると指摘した。
「極めて高度なモデル、プラットフォーム、アプリケーションの開発や用途の拡大によって、当社のモデルが害を及ぼすリスクがさらに高まる可能性がある」と説明した。AIには工業化や電力に匹敵する変革をもたらす可能性がある一方、扱いを誤れば取り返しのつかない被害を引き起こす恐れがあるとの認識を示した。
アンソロピックは目論見書の本文261ページのうち約80ページをリスク要因の説明に充てた。これは事業説明に充てた48ページの2倍近くに相当する。
目論見書で「信頼性が高く、安心して使え、セキュリティーが確保されたAIシステムの構築は共同の責任であり、市場はその取り組みに報いると考えている」とした。