AIの倫理問題は、AIを利用することで誰かを傷つけたり差別したりする危険性がある。イランへの軍事作戦でアメリカ軍が生成AIを利用し、攻撃目標の位置特定・戦闘シナリオを検討したりした。AIの戦争利用は自律兵器の開発につながる懸念がある。攻撃対象かAIが判断するのが自律兵器。戦争当事国は倫理の解釈が分かれがちになるため、AIの軍事利用が再現なく進まないよう国際ルールが欠かせない。軍事利用以外にも倫理の問題について議論になったケースがいくつか存在する。不適切なデータ利用に関して、住宅価格を住環境の指標からAIで予測する際にボストン住宅価格データセットが偏見・差別を助長する危険性があると指摘される。再犯率をAIで予測するシステムはアメリカの一部の州で利用されている。再犯の可能性予測は、保護観察やカウンセリング計画に利用することが目的だったが、ウィスコンシン州の発砲事件の裁判では被告の再犯可能性が高いとAIが推定していることを根拠として懲役6年が言い渡された。被告側は、正確性が不明なAIで刑の重さを決めるのは不当だと意義を申し立てた。裁判所は意義を退け、人間の判事が総合判断したからとした。今後、AIの解答をもとに人が意思決定するケースが増加することが考えられる。慶應義塾大学・栗原聡教授は、「データを作った人間に差別的な感覚があればAIも差別的な回答に。現代社会は不寛容と利己的傾向が強まっているので、AIがそれを助長しないか注意が必要」と指摘している。AIを利用する際はAIが何のデータと根拠で答えを出しているか確認することが重要。公開しているAIサービスもあるが、生成AIはわかりにくい場合もあり、はっきしないものは信用しすぎないこと。