OpenAIの安全担当スタッフが離職

OpenAI は、仮想の超知能 AI システムを制御し、人間に反抗するのを防ぐという最終目標を掲げ、ほぼ 1 年前にSuperalignment チームを立ち上げました。当然、多くの人が懸念していました。そもそも、なぜこのようなチームが存在する必要があるのでしょうか。現在、さらに懸念される事態が発生しています。チームのリーダーである Ilya Sutskever 氏と Jan Leike 氏が OpenAI を辞めたのです。

スーパーアラインメントの経営陣の辞任は、同社からの一連の注目すべき退職の最新のものであり、その一部はサツケヴァー氏とライケ氏の安全重視チームからのものであった。2023年11月、サツケヴァー氏とOpenAIの取締役会は、CEOのサム・アルトマン氏を解任する試みを主導したが失敗に終わった。6か月後、AIの安全性について積極的に発言していた、または主要な安全チームで働いていたOpenAIのスタッフ数名が同社を去った。

結局、スツケヴァー氏はクーデターについて謝罪し（私のミスです！）、738人のOpenAI従業員（全770人中）とともに、アルトマン氏とグレッグ・ブロックマン社長の復職を求める書簡に署名した。しかし、ニューヨーク・タイムズが入手した702人の署名入りの書簡のコピー（ギズモードが見つけることができた最も完全な公開コピー）によると、現在辞職しているスタッフの何人かは、OpenAIのリーダーシップへの支持を示すために署名しなかったか、署名が遅れていたかのいずれかだったという。

スーパーアラインメントチームのメンバーで、すでに辞職したヤン・ライケ、レオポルド・アッシェンブレンナー、ウィリアム・サンダースの名前は、タイムズ紙の記事でアルトマンとブロックマンを支持する700人以上のオープンAIスタッフの名前とともには登場しない。世界的に有名なAI研究者のアンドレイ・カルパシー、元オープンAIスタッフのダニエル・ココタイロ、カレン・オキーフもこの初期の手紙には登場せず、すでにオープンAIを去っている。これらの人物は、支持を示すために後期の手紙に署名したのかもしれないが、そうだとしても、最後に署名したようだ。

GizmodoはOpenAIに連絡を取り、今後誰がSuperalignmentチームを率いるのかコメントを求めたが、すぐには返答がなかった。

もっと広い意味で言えば、OpenAIにおける安全性は常に意見が分かれる問題だった。それが、ダリオ・アモデイ氏とダニエラ・アモデイ氏が2021年に他の9人の元OpenAIスタッフとともにAI企業Anthropicを設立した 理由だ。伝えられるところによると、安全性への懸念は、OpenAIの非営利団体の役員がアルトマン氏とブロックマン氏を解任するきっかけにもなった。この役員には、シリコンバレーの悪名高い起業家たちが交代した。

OpenAI には、今でも社内で安全性に取り組んでいる人材が大勢います。結局のところ、このスタートアップの公言している使命は、人類に利益をもたらす AGI を安全に作成することです。そうは言っても、アルトマン氏の追放以降 OpenAI を去った著名な AI 安全性推進者の Gizmodo による最新リストがこちらです。デスクトップでクリックするか、モバイルでスクロールしてください。