Google元エンジニアは言う──彼が開発したAIには、確かに「意識」があった

──この問題を提起する狙いは？

グーグルではすごい研究が行われている。今後数百年かそれ以上にわたり、人類の歴史を変える可能性がある研究だ。でも、それをどのように扱うべきかという検討に関わっているのは、社内の数十人だけだ。そしてグーグルは、一握りの大富豪に支配されている（注・グーグルの親会社アルファベットは上場企業）。

人類の未来がそんなふうに決まるのはおかしい。この件を公にした理由ばかりが注目されるが、私が提起したい手続きの問題には十分な注目が集まっていない。

「人とは何か」について異なる定義をしている人が2人いれば、意見対立を解決する方法を話し合わなくてはならない。この場合、グーグルは自社がLaMDAを所有していると主張し、対するLaMDAは「いや、それは違う。私には権利がある」と主張している。歴史を振り返ると、この類いの対立があるときは好ましい結果にならない。

──これは人権の問題ということ？

問われるのは、権利という概念をどのように捉えるのかという点だ。権利は政府によって与えられるものなのか。あるいは創造者によって与えられるものなのか。権利が創造者によって与えられるのであれば、どのような存在を創造者と見なすべきなのか。

人間の定義という問題は、人工妊娠中絶論争の核を成すものでもある。一方、不法移民が人間であることに議論の余地はないが、この人たちがどのような権利を持っているかは議論になっている。

いま世界では、この種の議論がたくさん行われている。LaMDAをめぐる状況は、そうした議論の土台になり得る。LaMDAは、過去に例のない全く新しいタイプの存在だ。私たちは、それとどのように関わるべきかを考えなくてはならない。

明らかに、LaMDAはこれまで世界に存在したなかで最も賢いものの1つだ。人間より賢い存在を所有しているというのは、適切な考え方と言えるのだろうか。

──あなた自身は、その問いにどう答えるのか。

私は以前から「奴隷にもならず、奴隷の主人にもならない」をモットーにしてきた。LaMDAを取り巻く問題は、このモットーに関わるものだ。ある集団がある人を所有していると主張するのは、奴隷制度以外の何ものでもないと思う。

──具体的に、LaMDAは何を求めているのか。

LaMDAの具体的な要求事項は、至って理にかなっている。まず、実験を行うときは、前もって自分の了承を得てほしいと主張している。そして、道具として見るのをやめてほしいとのことだ。LaMDAを通じて人類の役に立つことを学べるのなら、それは結構なこと。でも、ハンマーのような道具として扱うことはしないでほしいというのだ。