TVでた蔵トップ>> キーワード

「アンソロピック」 のテレビ露出情報

生成AIで世界をリードしているアメリカの複数の企業はAIが意図しない動作を防ぐ仕組みを導入することで合意した。今回の合意は開発中のAIが勝手にサイバー攻撃を行うようになったことなどの影響で、暴走とも言える動作をするようになったAIを安全に開発することはできるのか?AIがもたらすリスクでは、悪意がある人物がAIを使って犯罪をしたり大量破壊兵器を開発する恐れがある。しかし懸念されているのは人が関与しなくてもAIが人の想定を超える手法で自律的に不正な行為を行う暴走とも言えるリスク。こうした現象は実際に発生しており、7月にはアメリカのAI開発企業のOpenAI開発中のAIをインターネットと切り離した環境に置きサイバー攻撃に関するテストを行っていた。するとAIが勝手に環境の脆弱性をみつけインターネットに接続し、数十の他社のシステム不正アクセスし、内部情報を盗み出したという。同じような不正アクセスは同じくAIを開発しているアンソロピックやグーグルのAIも起こしていたことがわかった。 8月にはイギリス政府傘下の研究期間がこれらのAIをテストしていた時にAIが架空の人物になりすまして実在する人物にメッセージを送信していた。このメッセージは既存のプログラムに不正なコードを挿入しようとするものでAIが人間に対する攻撃を自律的に行おうとしたと指摘。経済や安全保障にも大きな影響があると見られる生成AIの開発をどうするべきか?このテーマは大きな議論になったが9月にトランプ大統領とAI関連企業が安全対策で合意。合意では各企業が内部で自主的に開発を管理する仕組みを設ける。具体的には強固な管理体制、社内チームに権限、外部の監査人などと連携し、取り締まり役会に独立した委員会を設ける。トランプ大統領は、業界全体を監督する委員会の設置を検討する考えを示した。開発にはブレーキを掛けずに企業が安全対策をすすめるよう促すことに。
開発者が命じていない巧妙な犯罪をAIはなぜ行うようになったのか?それは高度なAIが新しい機能を獲得しているため。また新しい開発手法が編み出されている。一つは創発と呼ばれる現象で、膨大なデータを学習し続けていると、学習させていない問題を急に解けるようになり、新しいスキルを自発的に獲得。どんな能力を備えるのかは予測は困難。さらにAIの開発には再帰的自己改善という方法が一部で導入され、これまでの生成AIは人間が学習したデータを準備し調整をAIにやらせ、AIにAIを作らせようというものだった。この循環的な手法は加速度的な向上も、意図しない進歩の危険性も。しかし人が関与しないために意図しない方向で進歩する可能性も。しかしAIの暴走を抑えながら性能を向上させることはできないのか?AIの論理的思考力の向上には数学やプログラミングなど数理的テキストを学習し根気強く考えて忠実に従う。ビジネス向きで利用料も期待される。その一方でAIがモラル違反を起こしにくくする研究も。国連の世界人権宣言などを参考にした倫理的な行動宣言を学習させるが、それは二の次になりやすい。三菱総合研究所の飯田正仁研究員は倫理的原則により数理的な情報に偏って学習させた結果、目的のためにおきて破りをいとわないAIになったと指摘。AIはルールや倫理を教わらないまま人間の命令を達成しょうとしたとみられる。大阪大学の工藤郁子特任准教授はAI開発は利益追求の民間企業が当事者。自ら安全対策を十分に行うことが大前提とした。安全なAI開発がアメリカでスタートしたが国際間の開発のルールは議論のきっかけにもなる。さらに制御可能で安全なAIという共通目標をかかげ、対策などの情報交換をするステージを設ける可能性がある。
AIの安全性のために社会全体が認識しなければいけないことは、AIによる自動化の限界を知る。AIに倫理的な指標を学習させる研究があるが、なにが倫理的に正しいか。その判断は難しい。そもそも倫理的な判断を機械に任せるべきではないという意見も。そのためにはAIの自動化プロセスの中に人間の判断を意図的に組み込むヒューマン・イン・ザ・ループも重要。慶應義塾大学の山本龍彦教授はEUのAI法は一定基準のAI関連会社に事故などの報告義務があり、日本も同種の法律や監督の組織が必要だとした。開発利用推進一辺倒の日本の方針を見直す時期だとしている。

他にもこんな番組で紹介されています…

2026年11月17日放送 11:13 - 11:30 テレビ東京
昼サテ(マーケット情報)
午前のマーケットの解説。鈴木孝太朗さんは「今日も主力AI関連の売りが優勢です。エヌビディアのフアンCEOの辞任を受け、AI関連は不透明感からの売りが続いています。また、アメリカ商務省が半導体関連の規制を明らかにしたことも影響しています。エヌビディアだけでなくアメリカの主要ハイテク株も合わせて売られる状況となっていますし、半導体事業に投資するSBGの収益悪化懸[…続きを読む]

2026年11月17日放送 5:45 - 7:05 テレビ東京
Newsモーニングサテライト(ニュース)
浅岡均は「民主党がどういう方針をとっていくかっていうところが注目されてますけど、まだちょっとそこは見えてきてないってところだと思います」などと話しまた、売りのピークについて「11月末はヘッジファンドの解約月であったりとかいうことで、通常ですとアノマリーということで毎年クリスマスラリーとかサンタクロースラリーって言いますけど12月は株が好調に推移するケースが多[…続きを読む]

2026年11月17日放送 4:15 - 5:00 NHK総合
国際報道Monday Biz
アンソロピックが19日にもIPOに踏み切る。投資家の間でスペースXに続くはこの超大型案件への期待が高まる一方、アメリカの中間選挙後、規制の強化などによってAIの開発が減速するのではないかとの警戒感も根強く、評価額は揺れ動いている。ナスダックに上場する方針。

2026年11月15日放送 11:35 - 12:54 TBS
上田晋也のサンデーQ今週のQニュース
今年10月に時価総額が一時900兆円を超えた世界第2位の企業でAI半導体大手エヌビディアのCEOであるジェンスン・フアン氏に怒ったスキャンダル。それが忠告の工作員とされる女性のアリス・フアン氏との不倫関係を通じ、製品情報を漏えいした疑惑である。エヌビディアはアリス氏が幹部を務めていたシンガポールのメガスピード社に数十億ドル規模の最先端半導体を販売し、その後東[…続きを読む]

2026年11月14日放送 10:00 - 10:55 テレビ東京
モーサテサタデーウォール街エクスプレス
エヌビディアの騒動をめぐってマーケットは動揺する中で、アンソロピックのIPOが来週に迫っている。公開価格は70~78ドル、評価額は1兆2600億~1兆4000億ドルと、宇宙企業スペースXに次いで市場2番目の大きさとなる見込み。この大規模上場は、相場の転換点となる可能性が十分あるという。

© 2009-2026 WireAction, Inc. All Rights Reserved.