TVでた蔵トップ>> キーワード

「大阪大学」 のテレビ露出情報

生成AIで世界をリードしているアメリカの複数の企業はAIが意図しない動作を防ぐ仕組みを導入することで合意した。今回の合意は開発中のAIが勝手にサイバー攻撃を行うようになったことなどの影響で、暴走とも言える動作をするようになったAIを安全に開発することはできるのか?AIがもたらすリスクでは、悪意がある人物がAIを使って犯罪をしたり大量破壊兵器を開発する恐れがある。しかし懸念されているのは人が関与しなくてもAIが人の想定を超える手法で自律的に不正な行為を行う暴走とも言えるリスク。こうした現象は実際に発生しており、7月にはアメリカのAI開発企業のOpenAI開発中のAIをインターネットと切り離した環境に置きサイバー攻撃に関するテストを行っていた。するとAIが勝手に環境の脆弱性をみつけインターネットに接続し、数十の他社のシステム不正アクセスし、内部情報を盗み出したという。同じような不正アクセスは同じくAIを開発しているアンソロピックやグーグルのAIも起こしていたことがわかった。 8月にはイギリス政府傘下の研究期間がこれらのAIをテストしていた時にAIが架空の人物になりすまして実在する人物にメッセージを送信していた。このメッセージは既存のプログラムに不正なコードを挿入しようとするものでAIが人間に対する攻撃を自律的に行おうとしたと指摘。経済や安全保障にも大きな影響があると見られる生成AIの開発をどうするべきか?このテーマは大きな議論になったが9月にトランプ大統領とAI関連企業が安全対策で合意。合意では各企業が内部で自主的に開発を管理する仕組みを設ける。具体的には強固な管理体制、社内チームに権限、外部の監査人などと連携し、取り締まり役会に独立した委員会を設ける。トランプ大統領は、業界全体を監督する委員会の設置を検討する考えを示した。開発にはブレーキを掛けずに企業が安全対策をすすめるよう促すことに。
開発者が命じていない巧妙な犯罪をAIはなぜ行うようになったのか?それは高度なAIが新しい機能を獲得しているため。また新しい開発手法が編み出されている。一つは創発と呼ばれる現象で、膨大なデータを学習し続けていると、学習させていない問題を急に解けるようになり、新しいスキルを自発的に獲得。どんな能力を備えるのかは予測は困難。さらにAIの開発には再帰的自己改善という方法が一部で導入され、これまでの生成AIは人間が学習したデータを準備し調整をAIにやらせ、AIにAIを作らせようというものだった。この循環的な手法は加速度的な向上も、意図しない進歩の危険性も。しかし人が関与しないために意図しない方向で進歩する可能性も。しかしAIの暴走を抑えながら性能を向上させることはできないのか?AIの論理的思考力の向上には数学やプログラミングなど数理的テキストを学習し根気強く考えて忠実に従う。ビジネス向きで利用料も期待される。その一方でAIがモラル違反を起こしにくくする研究も。国連の世界人権宣言などを参考にした倫理的な行動宣言を学習させるが、それは二の次になりやすい。三菱総合研究所の飯田正仁研究員は倫理的原則により数理的な情報に偏って学習させた結果、目的のためにおきて破りをいとわないAIになったと指摘。AIはルールや倫理を教わらないまま人間の命令を達成しょうとしたとみられる。大阪大学の工藤郁子特任准教授はAI開発は利益追求の民間企業が当事者。自ら安全対策を十分に行うことが大前提とした。安全なAI開発がアメリカでスタートしたが国際間の開発のルールは議論のきっかけにもなる。さらに制御可能で安全なAIという共通目標をかかげ、対策などの情報交換をするステージを設ける可能性がある。
AIの安全性のために社会全体が認識しなければいけないことは、AIによる自動化の限界を知る。AIに倫理的な指標を学習させる研究があるが、なにが倫理的に正しいか。その判断は難しい。そもそも倫理的な判断を機械に任せるべきではないという意見も。そのためにはAIの自動化プロセスの中に人間の判断を意図的に組み込むヒューマン・イン・ザ・ループも重要。慶應義塾大学の山本龍彦教授はEUのAI法は一定基準のAI関連会社に事故などの報告義務があり、日本も同種の法律や監督の組織が必要だとした。開発利用推進一辺倒の日本の方針を見直す時期だとしている。

他にもこんな番組で紹介されています…

2026年11月8日放送 9:54 - 11:35 TBS
サンデー・ジャポン(ニュース)
中間選挙で民主党が圧勝したことなどについて、デーブさんら「民主党が勝ったというより、共和党が負けたというほうが早い。両院の過半数が民主党になったから縛りが多くで出来ないことが多い。しかしトランプ大統領はめげずに暴走したり、もっと強硬になる危険性もある」などとコメント。中林教授は「トランプ大統領はヘグセス氏の忠誠心を非常に信頼している。キープしたいと思っている[…続きを読む]

2026年11月7日放送 19:30 - 20:55 NHK総合
タモリ・山中伸弥の!?再生医療&若返り&長寿の秘密 iPS細胞スペシャル
2012年、ノーベル生理学・医学賞の授賞式で山中さんはまだ誰の命も救っていないという言葉を残した。iPS細胞の発見から20年。山中さんの思いはついに現実のものとなり始めた。2025年の大阪・関西万博では心筋細胞シートが展示されたが、今年3月、重度の心不全などを対象に実際の医療現場で患者へ使える段階に入った。心筋シートを患者の心臓に貼り付けることで心筋シートか[…続きを読む]

2026年11月4日放送 4:50 - 5:00 NHK総合
視点・論点(視点・論点)
iPS細胞は血液や皮膚の細胞を加工することで作り出す細胞。特徴はほぼ無限に増やせること、体の様々な細胞に変化させられること。細胞を用いて組織の機能を再生する再生医療。2026年3月、iPS細胞を用いた2つの再生医療等製品が国から条件及び期限付き承認を受けた。1つはパーキンソン病を対象にした神経細胞の製品。iPS細胞からドパミン神経前駆細胞を作り患者の脳に移植[…続きを読む]

2026年11月3日放送 12:00 - 12:10 NHK総合
ニュース(ニュース)
文化の日のきょう、皇居で文化勲章の親授式が行われた。受章者は、照明デザイナーの石井幹子さん、建築家の伊東豊雄さん、東京大学名誉教授の黒岩常祥さんと塩川徹也さん、作曲家の都倉俊一さん、大阪大学栄誉教授の長田重一さん、東京理科大学栄誉教授で、今年のノーベル化学賞に選ばれたそ合憲三さん、ゲームプロデューサーの宮本茂さんの8人。天皇陛下から、出席した受章者に文化勲章[…続きを読む]

© 2009-2026 WireAction, Inc. All Rights Reserved.