編集者｜メン・チェン
ソース | キュービット
大規模な模型研究が止まらない！Wu Enda と LeCun は、この件について直接生放送を行いました。結局、何もしなければ事態はますます深刻化しており、マスク氏らがGPT-5の開発を中止したという事態が再びエスカレートし、1000人から1万3500人以上に。2 人はまた、AI 研究の中断は不合理だと率直に述べています。
AI 研究の 6 か月間のモラトリアムは、本当に痛いものです。規制すべきは AI 製品であり、その背後にある研究ではありません。
GPT-4 よりも強力な AI 実験を一時停止するという以前の呼びかけには、深層学習の巨人の 1 つである Yoshua Bengio が署名し、支持しました.Hinton は署名しませんでしたが、「6 か月以上かかるでしょう」と述べました.
今回、Ng Enda と LeCun は自分たちの見解をライブで説明しただけでなく、ネチズンが関心を持っているより多くの質問にも答えました。生放送とビデオ再生を見たネチズンは、ビデオのアウトバウンドは、ツイートよりもコンテキストと微妙なトーンの違いを提供したと述べました.
AGI が研究所を脱出しました。心配する必要はありますか?
LeCun は、AI に対する人々の懸念と恐れは、次の 2 つのカテゴリに分けられるべきだと考えています。
1. AIが暴走し、研究所から脱走し、人間までも支配する未来にまつわる推理。
2. 現実に関連した、公平性と偏見における AI の欠陥と、社会と経済への影響。
最初のカテゴリについて、彼は将来、AI が、存在しないものに対してセキュリティ仕様を作成できない ChatGPT スタイルの言語モデルになる可能性は低いと考えています。
車はまだ発明されていませんが、シートベルトをどのように設計するのですか?
懸念の 2 番目のカテゴリーに関して、Andrew Ng と LeCun は両方とも、規制は必要であるが、研究と革新を犠牲にするものではないと述べました。W Enda 氏は、AI は教育と医療において大きな価値を生み出し、多くの人々を助けてきたと述べました。
AI研究を一時停止すると、これらの人々が傷つき、価値創造が遅くなります。
LeCun 氏は、「AI が逃げる」または「AI が人類を支配する」という終末論もまた、人々に AI に対する非現実的な期待を抱かせると考えています。ChatGPT は言語に堪能であるため、この考えを人々にもたらしますが、言語はすべての知性ではありません。
言語モデルは現実世界を非常に表面的に理解しているだけであり、GPT-4 はマルチモーダルですが、まだ現実との「経験」がまったくないため、深刻なナンセンスを吐き出します。
そして、この質問、ルカンは、コールド・スプリング・ハーバー研究所の神経科学者であるアンソニー・ザドールと「サイエンティフィック・アメリカン」に書かれた「ターミネーターを恐れないでください」というタイトルの記事で、この質問にすでに答えていました。生放送で、LeCun は記事の要点をもう一度繰り返しました。
支配の動機は、競争の中で生き残り、進化する必要がある人間や他の動物などの社会的種にのみ現れます。また、AI を非社会的な種として設計し、非支配的、服従的、または人間全体の利益に適合するように特定の規則に従うように設計することができます。
ウー・エンダはそれを生物科学の歴史における画期的な出来事である「アヒロマー会議」と比較した. 1975 年、組換え DNA 技術が登場したばかりで、その安全性と有効性が疑問視されていました。世界中の生物学者、弁護士、政府代表者が会議を開き、公開討論の後、一部の実験を一時停止または禁止し、科学研究行動のガイドラインを提案することについて最終的に合意に達しました。
Wu Enda 氏は、当時の状況は現在の AI 分野で起こっていることとは異なると考えています.DNA ウイルスが実験室から逃げることは本当に懸念されますが、少なくとも今日の AI が実験室から逃げるリスクはないと考えています.数十年、いや数百年。「どのような状況下で AI 研究を一時停止することに同意しますか?」という聴衆の質問に答える際、LeCun 氏はまた、「潜在的な危険、実際の危険」、および「想像上の危険」を区別する必要があり、実際の危険が生じた場合に製品を規制するための措置を講じる必要があると述べました。発生します。
最初の車は安全ではありませんでした.当時はシートベルトもブレーキも信号機もありません.過去の技術は徐々に安全になり、AIは特別なものではありません.
「ヨシュア・ベンジオはどのようにして連名に署名したと思いますか?」という質問に対して、ルカンは彼とベンジオは常に友人であり、ベンジオの懸念は「企業が利益のために技術を習得することは本質的に悪いことだ」と考えている.しかし、彼はそうは思わない. , AI研究はオープンに行われるべきであることに2人は同意する.
ベンジオは最近、個人のウェブサイトで署名した理由を詳しく説明しました。
ChatGPT の出現により、ビジネス競争は 10 倍以上激化しており、企業が巨大な AI システムの開発を急いで、過去 10 年ほどのオープンで透明な習慣を置き去りにするリスクがあります。
生放送の後、呉遠達と楽村はまだネチズンと連絡を取り合っています。
「AIが研究所から逃げ出すと信じてみませんか」について、LeCun氏は、特定のハードウェアプラットフォームでAIを動かし続けることは非常に難しいと述べました。
「AI が特異点に達し、急激に制御不能になる」に対する反応は、現実の世界ではすべてのプロセスに摩擦があり、指数関数的な成長がすぐにシグモイド関数になるということです。
一部のネチズンは、言語モデルは「無作為に言葉を吐き出すオウム」と表現されることが多いと冗談を言いましたが、実際のオウムはくちばしや爪があり、人を傷つける意図があり、はるかに危険です。
LeCun は、オーストラリアのオウムはより凶悪であると付け加え、私はオウムの 6 か月間の禁止を求めました。
もう一つ
また、ますます影響力を増している AI の 6 か月間のモラトリアム提案について、意見を表明する人がますます増えています。
ゲイツ氏はロイターに対し、「特定の組織を一時停止することでこれらの問題が解決するとは思わない。グローバルな業界では、一時停止を強制することは非常に難しい」と語った.
フォーブスによると、Googleの元CEOであるエリック・シュミット氏は、「規制部門のほとんどの人は、技術の開発を適切に規制するのに十分なほど理解していません。さらに、米国で6か月間停止された場合、他の国に利益をもたらすだけです。 ."
同時に、AI 研究コミュニティにおける別の声の影響力が徐々に高まっています。非営利団体の LAION-AI (Stable Diffusion トレーニング データの提供者) が開始した請願にも、1,400 人以上が署名しました。
このプロジェクトは、イノベーションとセキュリティを確保するために、100,000 個の最先端の AI アクセラレーション チップを搭載した、公的資金による国際的なスーパー AI インフラストラクチャの構築を求めています。素粒子物理学の CERN (欧州原子核研究機構) です。支持者には、LSTM の父である Jürgen Schmidhuber や HuggingFace の共同創設者である Thomas Wolf などの著名な研究者が含まれます。
完全なビデオ再生:
https://www.youtube.com/watch?v=BY9KV8uCtj4&t=33s
AI 文字起こしテキスト:
https://gist.github.com/simonw/b3d48d6fcec247596fa2cca841d3fb7a
バックグラウンドでキーワードを返信 [グループに参加]
NLP、履歴書、検索プロモーション、就職活動のディスカッション グループに参加する
[1]https://twitter.com/AndrewYNg/status/1644418518056861696
[2]https://blogs.scientificamerican.com/observations/dont-fear-the-terminator/
