コラム

架空の内容を答えることも...特に日本で、ChatGPTの「不誠実さ」に注意が必要な訳

2023年04月26日(水)17時22分
ChatGPT

CHUAN CHUAN/SHUTTERSTOCK

<「返答すること」を優先するあまり、内容の正確さに疑問が残るチャットGPT。だがフレンドリーかつ不誠実なAIは今後もシェアを拡大していくだろう>

チャットGPTなど対話型AIが急速に社会に浸透しようとしている。こうした新しいAIは従来型とは異なり、対話力が高いため、取りあえず何らかの答えを返してくる。

しかし、ネット上にある情報を収集し、一定のアルゴリズムによって結果を得ているという点では従来型AIと変わることはなく、言い方を変えれば、ただ会話がうまくなったAIでしかない。

同じ対話型AIでも、マイクロソフトが同社の検索エンジンであるbingに実装したものは従来型に近く、分からないことは分からないと返してくる。一方、チャットGPTはとにかく返答することを優先しているように思われ、架空の人物をつくり上げてしまうことがあるなど、少々不誠実なAIと言っていい。

厳密にはAIが不誠実というよりも、開発する企業の姿勢が問われているという話だが、こうした事案から一部の専門家は対話型AIの利用について何らかの制限を加えるべきと主張している。しかし、ネットが大衆向けのビジネス基盤として確立した今、不誠実なAIが増加し、こうしたフレンドリーなAIほどシェアを拡大するという未来は容易に想像できる。

「集合知」を成立させるのに必要な条件

そうなってくると、AIに大きな間違いをさせないための社会的な工夫が必要となってくるが、AIがネット上にある情報を収集して答えを得る以上、最終的にAIの正確性を担保するのはネット空間に存在する情報の質ということになる。

以前から人間の集団には「集合知」が成立することが知られている。集合知というのは、多くの意見を集めれば集めるほどより正しい見解が得られるという概念である。

しかし、この命題が成立するためには、意見の発信者が個人として独立し、社会に多様性があることが必要条件となる。さまざまな見解を持った人が十分な数だけ集まっていなければ意味がなく、同じような人物の集団だったり、声の大きい人に左右される人ばかりでは、全体の意見も極端な方向に流れてしまう。

ネット空間にアップされる情報が偏っていれば、AIの情報も結局は偏ったものとなり、AIが出す結論も間違ったものとなる可能性が高い。

プロフィール

加谷珪一

経済評論家。東北大学工学部卒業後、日経BP社に記者として入社。野村證券グループの投資ファンド運用会社に転じ、企業評価や投資業務を担当する。独立後は、中央省庁や政府系金融機関などに対するコンサルティング業務に従事。現在は金融、経済、ビジネス、ITなどの分野で執筆活動を行う。億単位の資産を運用する個人投資家でもある。
『お金持ちの教科書』 『大金持ちの教科書』(いずれもCCCメディアハウス)、『感じる経済学』(SBクリエイティブ)など著書多数。

今、あなたにオススメ
ニュース速報

ビジネス

米国株式市場=小幅安、経済指標に注目

ワールド

原油先物、1ドル超上昇 供給途絶の懸念で

ワールド

イスラエル、ICJにガザ大量虐殺防止措置巡る報告書

ワールド

国連安保理、分断で権威失墜 「真剣な改革必要」=事
今、あなたにオススメ
MAGAZINE
特集:世界が愛した小澤征爾
特集:世界が愛した小澤征爾
2024年3月 5日号(2/27発売)

圧倒的情熱でクラシック界に新風を吹き込んだ「世界のオザワ」がわれわれに遺したもの

メールマガジンのご登録はこちらから。
人気ランキング
  • 1

    地下室の排水口の中に、無数の触手を蠢かせる「謎の生物」が...発見した住民が、正体を突き止めるまで

  • 2

    メーガン妃に「手を触られた」瞬間の、キャサリン妃の反応が...「触らないで!」動画に注目集まる

  • 3

    「ロイヤルな風格と優雅な姿」...シャーロット王女の華麗な「王室プロトコル」にファンがうっとりため息

  • 4

    トイレ内に「隠し部屋」への秘密通路を発見...ドアの…

  • 5

    大雪で車が立ち往生しても助けなし...「不信の国」中…

  • 6

    炎で夜空が赤く染まる映像...ウクライナ無人機がロシ…

  • 7

    帰宅した女性が目撃したのは、ヘビが「愛猫」の首を…

  • 8

    屋外に集合したロシア兵たちを「狙い撃ち」...HIMARS…

  • 9

    「豊胸手術をしなければよかった」...ヴィクトリア・…

  • 10

    ウクライナで兵力動員が難航...著名部隊「ダビンチ・…

  • 1

    屋外に集合したロシア兵たちを「狙い撃ち」...HIMARS攻撃「直撃の瞬間」映像をウクライナ側が公開

  • 2

    【アウディーイウカ陥落】ロシアの近接航空支援や滑空爆弾に対しウクライナ軍の空域には穴が開いていた

  • 3

    日本人は知らない、能登半島地震に向ける中国人の視線

  • 4

    大雪で車が立ち往生しても助けなし...「不信の国」中…

  • 5

    地下室の排水口の中に、無数の触手を蠢かせる「謎の…

  • 6

    メーガン妃に「手を触られた」瞬間の、キャサリン妃…

  • 7

    ウクライナ戦争開戦から2年、NATO軍の元最高司令官が…

  • 8

    ビートルズの伝説が始まったあの「初登場」から60年.…

  • 9

    「ロイヤルな風格と優雅な姿」...シャーロット王女の…

  • 10

    プーチンの顔面に「異変」が...「頬どうした?」と話…

  • 1

    日本人は知らない、能登半島地震に向ける中国人の視線

  • 2

    【能登半島地震】正義ぶった自粛警察が災害救助の足を引っ張る

  • 3

    一流科学誌も大注目! 人体から未知の存在「オベリスク」が発見される

  • 4

    ルーマニアを飛び立ったF-16戦闘機がロシア軍を空爆?

  • 5

    プーチンの顔面に「異変」が...「頬どうした?」と話…

  • 6

    帰宅した女性が目撃したのは、ヘビが「愛猫」の首を…

  • 7

    シャーロット王女の「ただならぬ風格」...5つの「フ…

  • 8

    「まだやってるの?」...問題は「ミス日本」が誰かで…

  • 9

    メーガン妃に「手を触られた」瞬間の、キャサリン妃…

  • 10

    エリザベス女王が「誰にも言えなかった」...メーガン…

日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story