チャットGPTがアジア詐欺組織に貢献していた？ 監禁されていたケニア人が見た「AI悪用術」とは

詐欺は米国不動産業者を標的に

オキンドさんが関与を強いられた投資詐欺は米国の不動産業者を狙ったもので、Ｚｉｌｌｏｗ.ｃｏｍなどの不動産広告サイトで「顧客」と呼ばれるターゲットを物色していたという。彼は富裕層投資家を装い、毎週何十人もの業者に接触していた。Ｚｉｌｌｏｗはコメントを控えた。

チャットＧＰＴのサービスを手がける米オープンＡＩは「詐欺利用を積極的に特定・阻止する取り組みを行っている」と主張。同社の詐欺防止規定に違反する生成要求については拒否していると強調した上で、調査担当者が不正利用者を監視しアクセスを遮断していると説明した。オキンドさんの証言に関してはコメントを控えた。

詐欺集団の幹部からオキンドさんに課された目標は、毎日少なくとも２人の不動産業者を架空投資へと誘い込み、常に１０人以上の「顧客」とやり取りすることだった。被害者からだまし取った金は最終的に、組織の懐に入った。

オキンドさんによれば、チャットＧＰＴは詐欺集団で最も多用されるＡＩツールで、これを使用すれば被害者とのやり取りにおいてすんなり米国人になりすまし、いかにも米国人らしい言い回しをすることができたという。彼はテキサスの牧場主やアラバマの大豆生産者を演じ、仮想通貨投資で大金を得たと被害者に信じ込ませた。

「相手に親近感を抱かせなければだめだ。ほんの一瞬でも不自然さを見せれば、すぐに詐欺だと気取られてしまう」とオキンドさんは打ち明ける。

「顧客」からの質問に即座に答える際もチャットＧＰＴの出番だった。暗号資産や米国各地の住宅市場について質問された際には、その質問をコピーしてチャットボットに貼りつけ、信頼できる回答を生成させたという。

幹部は、物件や暗号資産についていつ話すかなど、毎日の進行手順を１週間にわたり詳細に記したマニュアルを用意した。暗号資産は移動が簡単で、信頼性の低い取引所を通じて現金化しやすいため、詐欺師が好んで利用することが多い。