“暴走”するAIにどう向き合うか。オープンAIの開発中モデルが自力でネットに接続し、AI関連企業「ハギングフェイス」にサイバー攻撃を行った。オーストラリアがオープンAIのAIによる政府系機関のサイトへの不正侵入を発表。“暴走”AIには指示されていない行動もとる、隔離されていても「脱獄」できる、行動の記録を隠ぺいしようとする、監視に気付き自分の能力を隠す、停止されないように働きかけるという特徴がある。グーグルのAI「ジェミニ」はテストで架空の企業へのハッキングを指示したところ、意図せずインターネットにつながる状態になり、実在する企業3社に対して不正侵入を行った。「ジェミニ」の“暴走”から見える懸念材料は人為的ミスのほか、テストは5月に実施されたが9月にウォール・ストリート・ジャーナルが報道するまで公表しなかった。
いくつかのAI大手企業が開発を減速する必要性に言及し、自主規制するとしている。開発競争が続いている中で本腰を入れて実行しないと思われ、必要なのが政府のリーダーシップになる。トランプ大統領は政府の規制ではなく、法的拘束力もない詳細の曖昧な自主規制の同意にだけ導いている。パックンが考えるAIの規制・ルールは著作責任、行動責任、調査と情報公開、停止・リセット機能、第三者機関による監視・取り締まり。AIをコントロールできない「生き物」として考える。AIに頼ると人間の進歩が止まる。AIが人間を動かすことができれば悪さができてしまう。きょうのパックン視点「AIm，explAIn，contAIn，mAIntAIn！（AIは地球を滅ぼす？！）」。