ログイン
[１７日 ロイター] - 人工知能（ＡＩ）の能力が急速に高まる中、開発をどの程度のスピードで進めるべきかを巡り、業界首脳や各国・地域政府の間で意見が分かれている。アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）、オープンＡＩのサム・アルトマンＣＥＯ、スペースＸのイーロン・マスクＣＥＯらが足並みをそろえて開発ペースの調整を求める一方、メタ・プラットフォームズのマーク・ザッカーバーグＣＥＯは、市場競争や企業の責任に基づく自主的な安全対策を支持している。
ＡＩに伴うリスクに関する業界首脳や各国・地域政府の主な発言は以下の通り。
＜アンソロピックのダリオ・アモデイＣＥＯ＞
アモデイ氏は「最先端のペースを調整しなければならない」と題したエッセイで、ＡＩの進歩が２０２６年夏以降に「劇的に加速」したと指摘。その主因として、ＡＩ自身が次世代のＡＩを構築する能力を急速に高めていることを挙げた。
アモデイ氏は、ＡＩの「群れ」によってオープンＡＩが開発中だったＡＩが暴走してハギングフェイスに不正侵入した事件について、安全対策がないまま能力が拡大した場合、ＡＩが「壊滅的な被害」をもたらしかねないことを示す決定的な出来事だったと強調した。
その上で、ＡＩ開発のペースを調整するための「３段階の計画」を提案。高度なＡＩモデルに対するより厳格な安全試験や独立した評価のほか、主要ＡＩ企業間の連携や国際協力の強化などを盛り込んだ。
＜オープンＡＩのサム・アルトマンＣＥＯ＞
アルトマン氏は、アモデイ氏の投稿を短文投稿サイトＸでリポストして「最先端技術の進展ペースを調整する必要があるというダリオ（・アモデイ）氏の意見に賛同する。これはこの数週間、オープンＡＩ社内で議論してきた主要なテーマだ」と書き込んだ。
アンソロピックが提案した考え方を採用し、従業員と同等のアクセス権を持つ独立した評価者を配置する方針も示した。オープンＡＩは１６日、想定外または許可されていないＡＩの挙動に関する報告書を定期的に公表すると発表した。
アルトマン氏は現在のＡＩブームが起こるはるか以前からリスクを警告していた。２０１５年のエッセイでは「超人的な機械知能の開発は、おそらく人類の存続にとって最大の脅威になる」との見解を示していた。
＜スペースＸのイーロン・マスクＣＥＯ＞
マスク氏はアモデイ氏の投稿に反応し、Ｘに「ダリオ（・アモデイ）氏の言う通りだ」と書き込んだ。
非営利団体「フューチャー・オブ・ライフ・インスティテュート」が２３年、安全対策を整備する時間を確保するため、ＡＩ開発を半年間停止するよう求めた際にも、マスク氏は支持者の１人だった。
１５年には、ＡＩやロボット工学の研究者らとともに「攻撃型自律兵器」の世界的な禁止を提唱する公開書簡に名を連ねた。
＜メタ・プラットフォームズのマーク・ザッカーバーグＣＥＯ＞
ザッカーバーグ氏は、企業間の競争や法的責任がＡＩ各社に安全対策を自主的に講じる十分な動機を与えているとの考えを示し、大手ＡＩ企業の首脳らによる開発ペース調整の呼びかけとは一線を画した。各ＡＩ研究所には、モデルを安全に訓練するために、必要なペースで開発を進める責任と動機があり、安全確保のためにそれぞれが必要な措置を講じる能力もあると主張した。
＜マイクロソフトＡＩのムスタファ・スレイマンＣＥＯ＞
スレイマン氏は、ＡＩを安全に管理する必要があるとのアンソロピックの問題意識に理解を示す一方、アンソロピックが対話型ＡＩ「クロード」を学習させる際、意識や福祉上の利益に関する考え方を取り入れていることにはリスクがあると警告した。
スレイマン氏はエッセイで「全人類よりも高い能力と知性を持つ存在を制御すること自体、既に途方もない課題であり、われわれがこれまで直面したどんな問題よりもはるかに困難だ。しかし『自らに意識があるかもしれない、自分には福祉を享受する資格があり、独自の権利がある』と信じる存在を制御することは、不可能になりかねない」と訴えた。
さらに、ＡＩの学習文書から「意識」に関するあらゆる憶測を排除するよう主張。こうした表現は、超知能システムを人間が制御する能力を損ないかねないと訴えた。
＜マイクロソフト共同創業者のビル・ゲイツ氏＞
ゲイツ氏はロイターに「ＡＩが社会にもたらす変化に対応する準備ができている政府は、世界のどこにもない」と語った。
これまでＡＩの医療分野への応用について楽観的な見方を示してきた一方、最近では雇用への脅威や攻撃への悪用、ＡＩを利用した「コンパニオン」への依存などに警鐘を鳴らしているほか、ＡＩを管理するための国際機関を設立するよう呼びかけている。
＜アルファベットのデミス・ハサビス最高科学責任者＞
ハサビス氏はアモデイ氏のＸへの投稿に対して「ダリオ（・アモデイ）氏のエッセイは正しい方向性を示している」と評価したが、具体的な内容については今後詰める必要があるとくぎを刺した。グーグルは先月、ノーベル賞受賞者でもあるハサビス氏が新設のアルファベット最高科学責任者に就任すると発表した。同氏はグーグル・ディープマインドのＣＥＯから会長にも移行する。
＜オープンＡＩ共同創業者で、現アンソロピックのアンドレイ・カルパシー氏＞
カルパシー氏はアモデイ氏のエッセイの画像をＸで共有して「この考え方は素晴らしい。業界全体が団結し、実現できることを心から願っている」と投稿した。
ＡＩ業界で大きな影響力を持つカルパシー氏はオープンＡＩの創設メンバーで、テスラでは自動運転やＡＩ技術の開発で中心的な役割を担った。２２年にテスラを退社し、今年５月にアンソロピックに加わった。
＜華為技術（ファーウェイ）の徐直軍・輪番会長＞
徐氏は１７日、中国のＡＩ開発企業は、米国の先端企業が報告しているような安全上のリスクを経験するほどには、まだ技術が進歩していない可能性があるとの見方を示した。その上で、イノベーションとリスクのバランスを取りながら、より強力なモデルの開発を続けるべきだと主張した。
徐氏は記者団に、米ＡＩ企業が「巨大な計算能力」を保有していると言及するとともに「彼らが実感し、認識できるＡＩのリスクは、中国の人々や中国のＡＩモデル提供企業にはまだ認識できない種類のものなのかもしれない」と述べた。
＜米国＞
トランプ大統領は自身の交流サイト（ＳＮＳ）に「ＡＩに必要な唯一の統制、あるいは『ガードレール』は、強くて賢い（高いＩＱを持つ）大統領だ。そして米国にはまさにそのような大統領がいる」と投稿。ＡＩ開発に疑念を投げかければ、中国を利することになるとの考えも示した。
一方、米上院情報特別委員会のマーク・ワーナー議員（民主党）は、ＡＩを巡る「破滅論」の多くを退けつつも、議会は年末までにＡＩの安全基準を定める法案を可決すべきだと訴えた。
＜中国＞
中国共産党系の英字紙グローバル・タイムズ（環球時報）は社説で、アモデイ氏のエッセイの真の狙いについて「技術的な障壁と規制上の独占を通じて中国のＡＩ開発を抑制し、最先端技術における米政府の独占的な覇権を維持するとともに、中国を世界のＡＩガバナンス体制から排除することだ」と批判した。
陳一新・国家安全相は政府系媒体への寄稿で、アンソロピックの「クロード・ミュトス」やオープンＡＩの「ＧＰＴ－５．５－サイバー」など米国の高度なＡＩモデルが、中国の重要情報インフラに深刻なリスクをもたらす可能性があると警告。ＡＩ安全保障を全面的に強化するよう求めた。
＜英国＞
英王室が公表した演説の抜粋によると、チャールズ国王は１７日にスコットランドでＡＩ業界の首脳らと会談し、ＡＩが「確実に人類のために役立つ」技術であり続けるよう求めた。
＜欧州連合（ＥＵ）＞
ＥＵ欧州委員会のトーマス・レニエ報道官は「ＥＵはＡＩのイノベーション促進を支持しているが、企業は域内でサービスを提供するために、それが市民にとって安全であることを証明しなければならない」と述べた。フォンデアライエン欧州委員長はＡＩ開発の一時停止を求める声を支持し、リスクへの対応策を協議するため、主要な最先端ＡＩ研究所を招いて協議する考えを示した。
