「ChatGPT（チャットGPT）」の開発元である米OpenAIの共同創業者で社長でもあるグレッグ・ブロックマン氏が米ファスト・カンパニー誌の取材に応じ、政治的な偏向をめぐる批判や胸が躍るAI（人工知能）の進歩について語った。

ChatGPTとOpenAIのイメージ（出所／Shutterstock）

［画像のクリックで拡大表示］

　米OpenAIがチャットボット「ChatGPT（チャットGPT）」をデビューさせてから4カ月たち、今のところ興奮の渦は鎮まる気配を見せていない。最近では教師からジャーナリスト、企業の人事部門まで、誰もが生成AI（人工知能）を試している。だが、ChatGPTは政治的にバイアスがかかった答えを出すと訴える声など、技術に対する批判の嵐も起きている。

　2023年3月初め、起業家のイーロン・マスク氏がChatGPTと競合する「反woke」なAIを作る計画を発表したときに騒ぎがピークに達した（編集部注：woke［ウォーク］は社会的な意識の高い人や企業を揶揄［やゆ］する言葉で、リベラルな左派に対して使われることが多い）。これに対し、OpenAIの共同創業者で社長でもあるグレッグ・ブロックマン氏は同年3月9日、米メディアの「ジインフォメーション」の取材で、同社は多くの人が扇動的と受け止める返答を防ぐガードレール（安全対策）を組み込む際に「ミスを犯した」と語った。

　米ファスト・カンパニー誌は、テキサス州オースティンで開かれたテクノロジーと音楽・映画の祭典「SXSW（サウス・バイ・サウスウエスト）」でOpenAIの軌道修正について語ったブロックマン氏をつかまえ、話を聞いた。以下、長さと明瞭さを考慮してインタビューを編集した。

AIの偏向に対する「ガードレール」設置

ファスト・カンパニー（以下、FC）　ジインフォメーションの取材に応じたとき、チャットボットが不快と見なされる回答を出すのを防ぐガードレールの装備で、OpenAIが過ちを犯したと言いましたね。では、次のステップは何ですか。OpenAIはどう軌道修正するのでしょうか。

グレッグ・ブロックマン氏（以下、GB）　我々が犯したミスは、過ちを認識した後の対応が遅かったことだと思う。今は巻き返している最中だ。過去1カ月で、チームは本当に大きな進歩を遂げた。近く新しいモデルを発表する。実際、全体的な戦略と計画についてはブログに投稿した。まず何より、我々はもっと優れたデフォルトを持つべきだと考えている。

　我々のゴールは最初から、主流派の集団をすべて平等に扱うボットを作ることだった。ある意味で中立を保ち、どこかひとつの集団に与（くみ）しないものだ。けれど、もしあなたがユーザーで、カスタマイズしたいと思ったら、大きな境界線の範囲内でカスタマイズできるべきだ。そして、こうしたバランスについて重要なことは、誰がそれを決めるかだ。我々としては、何らかの正当な集団的AIプロセスのようなものを通して決めるべきことだと考えている。これについても実際に作業に取り組んでいる。

　この問題についてはまだ完璧な答えは出ないと思うが、AIはどんなことを言ってはならないかという観点で、社会全体が決定に関与できる対策を編み出すために試行錯誤している。そのうえで技術的な答えを出したい。「こうした境界線の内側に入っているのであれば、好きな方向へ導くAIがあっていい」という解だ。

　また、問題は政治だけではない。そうですよね。生徒がどれほど答えをせがんだとしても、絶対に答えを教えない家庭教師ボットを作りたいのであれば、それも作っていいはずだ。だから、タスクがどのようなものであれ、自分の価値観、自分の目標を反映したものを持つこと、それをシステム内で持つことが重要だ。