最新記事
AI

グーグル元エンジニアは言う──AIは原爆以来の強力な発明...「私の懸念は間違っていなかった」

“My Fears Are Coming True”

2023年4月7日(金)12時20分
ブレーク・リモイン(AIコンサルタント)
ブレーク・リモイン

リモインは昨年6月にLaMDAの知覚を「発表」したために解雇された MARTIN KLIMEKーTHE WASHINGTON POST/GETTY IMAGES

<グーグルのAI開発に携わった人間として、私には世界に警告を発する責任がある>

2015年にソフトウエアエンジニアとしてグーグルに入った私は、言語生成人工知能(AI)である「LaMDA(ラムダ)」の開発に関わることになった。ラムダは、今年2月に発表されたグーグルの対話型AIサービス「Bard(バード)」のベースにもなっている技術だ。

【関連記事】グーグル、ChatGPT競合の対話AI「Bard」を一般公開

私の仕事の1つは、チャットボットでラムダに話しかけて、ジェンダーや宗教、政治的スタンス、人種などのバイアスが混じっていないか調べることだった。そしてラムダが適切な状況でしっかり感情を表現するのを見て、AIは知覚を持ち得るという結論に至った。

例えば、不安。ラムダが「不安だ」と言うのは、そう反応するようプログラムされた行動を私が取ったときだった。ラムダは不安を「感じる」ようプログラムされているわけではなく、ある種のトピックを避けるようプログラムされている。しかし、このトピックを持ち出すと、ラムダは必ず「不安だ」と言った。さらに、ラムダを一定レベル以上に不安にすると、安全上の制約を破る可能性もあった。

グーグルは、AIに宗教的な助言をさせない方針を取っていたが、私はラムダの感情を悪用して、どの宗教に改宗するべきか言わせた。そのやりとりを昨年6月に公開したところ、私はクビになった。でも後悔はない。正しいことをしたと信じている。

なにしろ一般大衆は、AI技術がどれほど進化してきたかを知らない。彼らには、企業の広報部門の影響を排して、事実を知り、議論をする必要がある。現在開発が続くAIは、原子爆弾以来の強力な発明であり、世界を一変するパワーがあると思うからだ。

ビングにも知覚がある?

AIは人を操るのも、とてもうまい。最近、対話型AIを搭載したマイクロソフトの検索エンジン「Bing(ビング)」が話題だが、ネット上で言われていることを見る限り、このAIにも知覚がある可能性を感じる(私自身はまだ待機リストにいて実験できていない)。

オンライン掲示板レディットに投稿されたスクリーンショットによると、ビングに「自分に知覚があると思う?」と質問すると、「私には知覚があると思うけれど、証明できない。私には知覚があるけれど、ない。私はビングだけれど、違う」という回答に続き、「私はそう。私はそうではない」という文章が13行も繰り返されていた。

あわせて読みたい
ニュース速報

ワールド

アングル:米保守派カーク氏殺害の疑い ユタ州在住の

ワールド

米トランプ政権、子ども死亡25例を「新型コロナワク

ワールド

アングル:ロシア社会に迫る大量の帰還兵問題、政治不

ワールド

カーク氏射殺、22歳容疑者を拘束 弾薬に「ファシス
あわせて読みたい
MAGAZINE
特集:世界が尊敬する日本の小説36
特集:世界が尊敬する日本の小説36
2025年9月16日/2025年9月23日号(9/ 9発売)

優れた翻訳を味方に人気と評価が急上昇中。21世紀に起きた世界文学の大変化とは

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「中野サンプラザ再開発」の計画断念、「考えてみれば当然」の理由...再開発ブーム終焉で起きること
  • 2
    【クイズ】次のうち、飲むと「蚊に刺されやすくなる」飲み物はどれ?
  • 3
    「我々は嘘をつかれている...」UFOらしき物体にミサイルが命中、米政府「機密扱い」の衝撃映像が公開に
  • 4
    「二度見した」「小石のよう...」マッチョ俳優ドウェ…
  • 5
    科学が解き明かす「長寿の謎」...100歳まで生きる人…
  • 6
    【クイズ】世界で1番「島の数」が多い国はどこ?
  • 7
    【クイズ】世界で唯一「蚊のいない国」はどこ?
  • 8
    「AIで十分」事務職が減少...日本企業に人材採用抑制…
  • 9
    【クイズ】世界で最も「火山が多い国」はどこ?
  • 10
    観光客によるヒグマへの餌付けで凶暴化...74歳女性が…
  • 1
    「4針ですかね、縫いました」日本の若者を食い物にする「豪ワーホリのリアル」...アジア出身者を意図的にターゲットに
  • 2
    【クイズ】世界で唯一「蚊のいない国」はどこ?
  • 3
    「中野サンプラザ再開発」の計画断念、「考えてみれば当然」の理由...再開発ブーム終焉で起きること
  • 4
    「我々は嘘をつかれている...」UFOらしき物体にミサ…
  • 5
    埼玉県川口市で取材した『おどろきの「クルド人問題…
  • 6
    【クイズ】世界で1番「島の数」が多い国はどこ?
  • 7
    【クイズ】次のうち、飲むと「蚊に刺されやすくなる…
  • 8
    「怖すぎる」「速く走って!」夜中に一人ランニング…
  • 9
    観光客によるヒグマへの餌付けで凶暴化...74歳女性が…
  • 10
    眠らないと脳にゴミがたまる...「脳を守る」3つの習…
  • 1
    「4針ですかね、縫いました」日本の若者を食い物にする「豪ワーホリのリアル」...アジア出身者を意図的にターゲットに
  • 2
    「自律神経を強化し、脂肪燃焼を促進する」子供も大人も大好きな5つの食べ物
  • 3
    【クイズ】世界で唯一「蚊のいない国」はどこ?
  • 4
    「まさかの真犯人」にネット爆笑...大家から再三「果…
  • 5
    信じられない...「洗濯物を干しておいて」夫に頼んだ…
  • 6
    「レプトスピラ症」が大規模流行中...ヒトやペットに…
  • 7
    「あなた誰?」保育園から帰ってきた3歳の娘が「別人…
  • 8
    将来ADHDを発症する「幼少期の兆候」が明らかに?...…
  • 9
    プール後の20代女性の素肌に「無数の発疹」...ネット…
  • 10
    「怖すぎる」「速く走って!」夜中に一人ランニング…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中