ログイン
[１６日 ロイター] - 米ニュースサイトのポリティコは１６日、人工知能（ＡＩ）開発企業アンソロピックの代表者が、最先端ＡＩモデルの安全性とセキュリティーを確保する法案の導入に向け、米議会議員らに草案を働きかけていると報じた。事情に詳しい３人の情報筋の話だとしている。
この法案には、ＡＩモデルが１０億ドルを超える損害をもたらすか、５０人以上の死亡または重傷を負わせることにつながる予見可能かつ差し迫ったリスクをもたらす場合に限り、政府が公開や使用を阻止できるようにすることを定めた。
詳細は下記の通り。
・ポリティコによると、提案された草案は生物兵器の製造や導入を防いだり、ＡＩモデルが制御やサイバー攻撃を回避したりすることを目的としている。
・アンソロピックの広報担当者はロイターに対し、アンソロピックが今年発表した「先進ＡＩフレームワーク」に盛り込んだ提案を草案に反映していると説明した。
・この広報担当者によると、草案は政府に対して「最も強力なＡＩモデルの危険な展開を阻止または抑止する能力」を与えるとともに、開発者に対して最先端ＡＩモデルの訓練の実施や、結果の透明性確保、および第三者による評価を得ることを義務付ける。
・商務省は、ロイターからのコメント要請に直ちには回答しなかった。
・報道によると、商務省に登録された独立した評価機関が、最先端ＡＩモデルと開発機関を定期的に評価する役割を担うと草案に盛り込まれた。
・良い評価結果を得るための買収行為がない限り、開発機関がこれらの評価機関に報酬を支払うことができることも記載されている。
・評価機関が最先端ＡＩモデルに「差し迫った具体的なリスク」があると判断した場合、評価完了から７２時間以内に商務省に報告しなければならないと明記している。
・商務省は危険性があることを認定した場合、裁判官に対してＡＩモデルの停止を要請することができる。草案には、他のいかなる米政府、機関、または職員も開発、導入、または内部利用を停止することを禁じると定めた。
・首都ワシントンの連邦地裁の裁判官がＡＩモデルの停止を命じることができる権限を持つと草案に定めた。
