テクノロジーにあまり関係のない人にとってタイトルは SF のように聞こえるかもしれませんが、人工知能は抑制されなければ人類の滅亡につながります。
その後、2023 年 XNUMX 月にイーロン・マスクと他のテクノロジー専門家が次のように話しました。 人工知能が生み出す可能性のある一般的な危険 社会レベルでは、人工知能を開発している最大手企業のCEOらが公開書簡を通じて警鐘を鳴らす番となった。
非営利団体が立ち上げた公開書簡の署名者350人の中には、Center For AI Safety"（CAIS)、含まれるもの: サム・アルトマン、同社 CEO OpenAI、企業のトップ AI DeepMind, Antrophic だけでなく、広範な人工知能言語を開発しているマイクロソフト社やグーグル社の幹部もいます。
彼らは自分自身を表現するために、その分野の研究者や教授のグループに参加しました 人工知能が人類の滅亡につながるのではないかという懸念 政治的意思決定者がこの問題を真剣に受け止めないのであれば。
公開書簡には、規制されていない人工知能の影響は世界中で核戦争や制御不能なパンデミックと同じくらい大きな被害をもたらす可能性があると述べられている。
人工知能は人類を滅亡させるのでしょうか？
おそらく、意思決定者はやがて目覚め、テクノロジーによるこの大きな一歩を規制する解決策を模索することになるだろう。 もちろん、意思決定をする前に、人工知能の利点に伴うリスクを認識する必要があります。
人工知能は単なる意味ではありませんでした ChatGPT, Microsoft 365 Copilot または Google Bard. Mode生成人工知能 lele は以下で使用されます。 薬、研究、ロボット工学とオートメーション、教育、金融、商業、さらに実際に役立つ他の多くの分野。
AI それは破壊的な目的にも使用される可能性があり、この側面に関連して、人工知能が人類の滅亡につながるのではないかという恐怖があります。 大衆の間に緊張を生み出すことを目的として社会を操作し、人間の知性を超えて自律的に意思決定できるインテリジェント兵器の開発に至る。 自ら学習し、状況を判断して行動することができる技術です。
最大の問題はそれです mode広範な言語のルール AI (LLM）誰でも利用できます。
核分裂は人類にとって大きな一歩であり、利益と大きな危険の両方をもたらしました。 核分裂によって生成されるエネルギーは膨大な資源であり、現実的な利益ですが、核兵器は人類にとって壊滅的な被害をもたらす可能性があります。 一方で、核燃料は現状では誰でも手の届くところにあるわけではありません。 mode人工知能レレス。 ウラン (U-235) やプルトニウム 239 は、Python を実行できるコンピューターを見つけるのと同じくらい簡単には誰にも見つかりません。
ただし、確かなことがXNUMXつあります。 人工知能は人類を滅亡に導く人類がそれを許可する場合に限ります。 自然の力を人間が制御できなくても、人工知能はまだ制御できる（と私は願っています）。
