2020年1月、デトロイトに暮らすロバート・ウィリアムズ氏は妻子の目の前で、警察に逮捕された。1年3カ月前、ブティックで高級腕時計5本を盗んだのがウィリアムズ氏だといい、逮捕の決め手になったのが顔認証AIだった。だが、捜査が進められ、監視カメラにうつった人物はウィリアムズ氏とは別人と判明。ウィリアムズ氏は釈放され、42歳の誕生日を家族と祝うことができると安堵したが、不安やパニックに苛まれるようになった。医師は誤認逮捕が引き金となり、PTSDを発症していると診断。ウィリアムズ氏はデトロイト市、警察に対して損害賠償、捜査での顔認証の乱用防止を訴えた。警察は杜撰な捜査を認めた。
ウィリアムズ氏を弁護したフィル・メイヤー氏は「人種によって顔認証の制度に差がある」、「コンピューターが自動で行った判断を無条件に信用してしまうバイアス」を指摘。ウィリアムズ氏と警察、デトロイト市は和解に至った。デトロイト氏は賠償金として30万ドルを支払い、警察は顔認証技術の使用に関する方針を改定することに合意。容疑者を逮捕するには顔認証に加え、独立した信頼に足る証拠が必要となった。ウィリアムズ氏は仕事の合間を縫っては全米をまわり、顔認証技術の危険性などを講演で訴えている。
ウィリアムズ氏を弁護したフィル・メイヤー氏は「人種によって顔認証の制度に差がある」、「コンピューターが自動で行った判断を無条件に信用してしまうバイアス」を指摘。ウィリアムズ氏と警察、デトロイト市は和解に至った。デトロイト氏は賠償金として30万ドルを支払い、警察は顔認証技術の使用に関する方針を改定することに合意。容疑者を逮捕するには顔認証に加え、独立した信頼に足る証拠が必要となった。ウィリアムズ氏は仕事の合間を縫っては全米をまわり、顔認証技術の危険性などを講演で訴えている。