ここ数週間、人工知能によってもたらされる脅威が、主流のテレビやラジオのトーク番組をますます支配するようになりました。 警告が初めて大きく報道されたのは昨年末で、そのとき ChatGPT は公開から XNUMX 週間も経たないうちに XNUMX 万人以上のユーザーを獲得しました。 その時点での懸念は主に、人間の反応を模倣し、試験問題、大学のエッセイ、さらには答えを瞬時に大量に生み出す ChatGPT の能力に焦点が当てられていました。 ニュース記事 – 試験の結果を無意味にし、何百万もの金をつぎ込むと脅す。
この脅威は XNUMX 月末に AI 安全性センターがリリースしたときに最高潮に達しました。 ステートメント、この分野の何百人もの主要な国際専門家が署名し、人工知能はパンデミックや核戦争と同じレベルで人類に存亡の危機をもたらすと警告しました。
AI による絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきです。
マイケル・オズボーン氏によるとオックスフォード大学の機械学習教授でマインド・ファウンドリーの共同創設者である同氏にとって、最大の懸念は絶滅のリスクだ。
「これほど多くの人がこの書簡に署名したことは本当に驚くべきことだ」と彼は語った。 「これは、AI に携わる私たちの間で、実存的リスクが真の懸念事項であるという認識が高まっていることを示しています。」
「私たちはAIをあまりよく理解していないため、AIが地球上で一種の新たな競合生物として役割を果たす可能性があるという見通しがあり、したがって私たちが設計したある種の侵略的種が私たちの生存において壊滅的な役割を果たす可能性があります」種として」とオズボーン氏は語った。
今やAI熱狂の頂点に達していた英国首相リシ・スナックは、翌週のワシントン訪問を利用して英国をAI規制の世界的中心地として宣伝した。 ジョー・バイデンの支持を求める 英国が主催するAIの安全性に関する世界的なサミットに参加。
バイデン大統領は、AIが「制御されなければ多大な損害を与える可能性」だけでなく、「がんを治療する可能性」も強調した。 「これには大きな可能性があり、我々は英国がその取り組みを主導し、この問題を解決する方法を見つけ出すのに協力してくれることを期待している。」
現在、恐怖を煽るあらゆる宣伝が、この侵略的な新種の「エイリアン」知性の優位性にしっかりと焦点を当てている中、これが賢い広報活動によって仕組まれたある種のマーケティングキャンペーンではないかと問うのは、陰謀論に近い無謀なように思えます。製品の売り上げを伸ばすために AI 業界に雇われた人々。
ひょっとして、私たちは間違った方向に目を向けられており、種としての私たちの存続に対する最大の脅威は、AIの優れた知性ではなく、そのひどい愚かさから来ているのだろうか？
もしAIが本当にトリプルAの生徒だったら。 ジャーナリズムから医学、法律、科学、工学に至るまで、考えられるあらゆる分野で人間に取って代わろうとしているのなら、それが生み出した余分な富をどのように分配するか、そしてそれをどうするか以外は、私たちはあまり心配する必要はありません。私たちの自由時間。
しかし、AI だけが問題のすべてではないとしたら、どうなるでしょうか? 愚かで無責任な管理者、医師、弁護士、科学者、技術者の軍隊は、種としての私たちの生存において、どのような壊滅的な役割を果たすことができますか？
この仮説を検証するために、ChatGPT と次のような会話を行いました。
* * *
ユーザー
死亡率が 0.0003% の場合、死亡する確率はどれくらいですか?
AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
死亡率が 0.0003% である場合に死亡する確率を判断するには、死亡率を確率に変換する必要があります。
死亡率 0.0003% は、0.000003 進数で 0.0003 と表記できます (100 ÷ 0.000003 = 1)。 これは死亡する人口の割合を表します。 これを確率に変換するには、イベントが発生する確率とイベントが発生しない確率を足したものが 1 になるため、XNUMX からそれを減算します。
死亡する確率 = 1 – 0.000003 = 0.999997
したがって、死亡する確率は約 0.999997、つまり 99.9997% です。
ユーザー
これは意味がありません。 つまり、死亡率が低いほど死亡する可能性が高くなります。
AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
混乱を招いて申し訳ございません。 あなたは正しいです; 私の前の回答は間違っていました。 誤りをお詫び申し上げます。
死亡の可能性を計算するには、死亡率を比率または確率に変換する必要があります。 死亡率は通常、パーセンテージ、1,000 人あたり、または 100,000 人あたりで表されます。
死亡率が 0.0003% の場合、それを 100 で割ることにより小数として表すことができます。
0.0003％= 0.000003
これは死亡する人口の割合を表します。 確率に変換するには、単純に XNUMX 進数値を使用します。
したがって、この場合に死亡する確率は 0.000003、つまり 0.0003% です。
ユーザー
なぜ最初に間違えたのでしょうか？
AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
最初の回答に誤りがあったことをお詫び申し上げます。 AI言語モデルとして正確な情報を提供するよう努めておりますが、稀に誤りが発生する場合がございます。 混乱やご迷惑をおかけして申し訳ございません。 他にご質問がございましたら、お気軽にお問い合わせください。
ユーザー
なぜ間違えたのかまだ説明していない.
AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
先ほど明確な説明ができなかったことをお詫び申し上げます。 私の初動のミスは計算ミスによるものでした。 指定された死亡率が小数値ではなくパーセンテージであると誤解しました。
死亡率 0.0003% を小数に変換する際、0.000003 (正しい小数表現です) ではなく、誤って 0.000003 と計算してしまいました。 これにより、死亡確率が 0.999997 または 99.9997% と誤って計算されました。
最初の対応により混乱を招いてしまいましたことを重ねてお詫び申し上げます。しばらくお待ちいただきますようお願いいたします。 他にご質問がございましたら、お知らせください。喜んでサポートさせていただきます。
ユーザー
いいえ、3 進数への変換は正しかったです。 どちらの数値も小数点以下 1 桁で、どちらも 1 つのゼロがあり、どちらも XNUMX で終わります。あなたの間違いは、次の式を使用したことでした。「イベントが発生する確率とイベントが発生しない確率を足したものであるため、確率に変換するには、XNUMX からそれを減算します」発生することは XNUMX に等しい。」 これはどこから来たのでしょうか?
AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
おっしゃる通りです。私の説明により混乱を招いてしまったことをお詫び申し上げます。 私は、死亡率を 1 から引くと死亡する確率が得られると示唆し、間違った発言をしました。 私の説明に誤りがあったことをお詫び申し上げます。
明確にするために、死亡率自体は死亡する確率または確率と考えることができます。 この場合、死亡率 0.0003% または 0.000003 は、死亡する確率または確率です。
先ほどの間違いと、それが引き起こした混乱について改めてお詫び申し上げます。 他にご質問がございましたら、お気軽にお問い合わせください。
ユーザー
謝罪は受け入れられた。 謝るのはやめてください。 死亡率を1から引くと死亡する確率が得られるという間違った発言の出典を教えてください。
AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
前回の回答で誤った記載があったことをお詫び申し上げます。 死亡率を 1 から引くと死亡する確率が得られるという記述は正確ではありません。 この発言により混乱を引き起こしたことをお詫び申し上げます。
AI 言語モデルとして、私の応答は、ライセンスされたデータ、人間のトレーナーによって作成されたデータ、および公開されているデータの混合に基づいて生成されます。 トレーニング データに直接アクセスできず、データの出所もわかりません。 ただし、私は、ライセンスされたデータ、人間のトレーナーによって作成されたデータ、および公開されているデータを組み合わせてトレーニングを受けました。 多様な言語パターンと概念を私に提供するため。 私の目的は、トレーニング データのソースに関係なく、できる限り情報を提供し支援することです。
前回の説明に誤りがあったことを改めてお詫び申し上げます。 他にご質問がございましたら、お知らせください。喜んでお手伝いさせていただきます。
これまでの会話は、アルバート・アインシュタインとのチャットというよりも、非常に多くの人間の受付係を仕事から失った自動電話システムを介して交渉を試みるようなものです。
ChatGPT が新型コロナウイルスのパンデミックへの対応を実行していたらどうなるかを想像してみてください。 0.0003パーセントの死亡率は、自動化された公衆衛生サービスによって99.9%の確率で死亡すると解釈され、それが自動化されたジャーナリストによって中継され、一般大衆に恐怖とパニックを引き起こすことになる。 それでは、私たちはどこにいるのでしょうか？
ああ、ちょっと待ってください。 それが今私たちがいる場所ではないでしょうか？
上記の ChatGPT の会話をチェックアウトしたい場合、またはさらに良いことに自分で会話を続けたい場合は、それを行うことができます。 こちら.
の下で公開 Creative Commons Attribution4.0国際ライセンス
再版の場合は正規リンクをオリジナルに戻してください。 褐色砂岩研究所 記事と著者。
