息子の性器に発疹が出たため写真を撮影し医者に送付　GoogleのAIが検知し警察に通報し事件に [538181134]

引用元

1 ：デロビブリオ(東京都) [ﾆﾀﾞ]：[ここ壊れてます] .net
sssp://img.5ch.net/ico/nida.gif
Googleの人工知能が幼児の性器写真を誤解し警察に通報するという事件が起きた。

アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、
リモート受診のために医師に送付した。
新型コロナウイルスのために病院は閉鎖しており、リモートで診断を行っており、息子の局部の写真を送ってほしいと言われたという。

親は息子の局部の写真を撮影しメッセージアプリで送付し、そのあと抗生剤も無事に処方された。
しかしその2日後、Googleアカウントがロックされたという通知が届いてGoogleアカウント全てが使えなくなってしまったのだ。
これはGoogleの人工知能によるものだった。

マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ、それをGoogleは児童ポルノだと判定してしまったのだ。

マーク氏は異議申し立てを行ったがGoogleは「グーグルのポリシーに違反しており違法な可能性のある有害コンテンツ」として
異議申立は却下された。

それだけでなく、人工知能は警察にも通報し、マーク氏は警察から事情聴取も受けたという。警察が持っていた通知書は
グーグルと彼が利用するインターネットサービス会社に提供された捜索令状のコピーも一緒だった。しかし事件担当者は
犯罪ではないと判断し、捜査を終結したと伝えた。
捜査が終わると今度はマーク氏が警察にGoogleアカウントを取り戻すのを手伝って欲しいと悲願。警察に文書を送付しGoogleを訴えたが、
Googleは異議申し立てを再び却下した。

マーク氏はGoogleアカウントが永久に削除されるという通知を受け、会社を訴えようともしたが、コストと時間の関係上諦めたという。

GoogleドライブやGoogleフォトは自動で同期する機能があるが、ポルノ画像（特に自動ポルノ）を入れるとAIが検知し、
Googleアカウント全てが凍結されてしまうので、クラウドサービスは他社のサービスを使うのをおすすめする。
クラウドに卑猥な画像を入れろというわけでなく、こういった時のためにGoogleだけに依存するのではなく、
サービスの切り分けも必要だということだ。

https://gogotsu.com/archives/68334

211 ：：2022/08/24(水) 19:05:43.26 ID:75gnfKNa0.net

26 ：：2022/08/24(水) 16:51:45.48 ID:hjQnCRtq0.net

255 ：：2022/08/24(水) 20:38:38.23 ID:Qa79Pf1z0.net

250 ：：2022/08/24(水) 20:31:50.38 ID:No3b+K4D0.net

252 ：：2022/08/24(水) 20:36:58.77 ID:a1elkOW60.net

358 ：：2022/08/25(木) 07:21:05.58 ID:0O9ie1JN0.net

318 ：：2022/08/25(木) 00:34:45.36 ID:uFCYt0hw0.net

61 ：：2022/08/24(水) 17:10:46.57 ID:NrbVwuiR0.net

216 ：：2022/08/24(水) 19:13:29.98 ID:sQaPt/rf0.net

30 ：：2022/08/24(水) 16:53:05.70 ID:ZZlLEpRN0.net

361 ：ヘルペトシフォン(ジパング) [ﾆﾀﾞ]：[ここ壊れてます] .net

380 ：：2022/08/25(木) 12:06:55.59 ID:vS7lGNAD0.net

381 ：：2022/08/25(木) 12:07:31.80 ID:cYzH/91n0.net

290 ：：2022/08/24(水) 22:42:32.15 ID:RRzDWvVl0.net

411 ：：2022/08/27(土) 08:33:47.90 ID:V3ANIKTh0.net

343 ：：2022/08/25(木) 05:34:31.00 ID:0MM+iTyK0.net

74 ：：2022/08/24(水) 17:14:55.27 ID:12Ut64Y+0.net

241 ：：2022/08/24(水) 20:07:57.57 ID:REZSyxXT0.net

79 ：：2022/08/24(水) 17:18:15.69 ID:mZP2RUr30.net

288 ：：2022/08/24(水) 22:40:26.10 ID:pfpudPfz0.net

153 ：：2022/08/24(水) 18:08:53.34 ID:GeNQrueG0.net

5 ：テルモゲマティスポラ(ジパング) [GB]：[ここ壊れてます] .net

327 ：：2022/08/25(木) 00:50:00.28 ID:M4Ww12sD0.net

151 ：：2022/08/24(水) 18:08:20.20 ID:g4IbJIY00.net

307 ：：2022/08/24(水) 23:26:37.42 ID:Z+PtdqMa0.net

43 ：：2022/08/24(水) 16:57:03.53 ID:0b2AAJw90.net

219 ：：2022/08/24(水) 19:21:31.66 ID:delqJhrF0.net

321 ：：2022/08/25(木) 00:38:07.54 ID:kSstigGc0.net

317 ：：2022/08/25(木) 00:26:43.99 ID:EIjHSXH90.net

35 ：：2022/08/24(水) 16:55:03.22 ID:AQu1GfsD0.net

382 ：：2022/08/25(木) 12:16:27.39 ID:/jvbi+K10.net

312 ：：2022/08/24(水) 23:47:15.43 ID:tHs0o+Iu0.net

254 ：：2022/08/24(水) 20:37:56.72 ID:VLsPwTKd0.net

13 ：クロロフレクサス(ジパング) [GB]：[ここ壊れてます] .net

128 ：：2022/08/24(水) 17:52:08.62 ID:VyDKupZY0.net

60 ：：2022/08/24(水) 17:10:17.91 ID:QAnKLDLv0.net

316 ：：2022/08/25(木) 00:24:53.35 ID:IgjZ/A5M0.net

157 ：：2022/08/24(水) 18:10:13.50 ID:0Up1XPIr0.net

156 ：：2022/08/24(水) 18:10:07.27 ID:MKasozGG0.net

129 ：：2022/08/24(水) 17:52:33.21 ID:tNCcmbuQ0.net

261 ：：2022/08/24(水) 20:45:34.30 ID:aQ30T/uJ0.net

304 ：：2022/08/24(水) 23:20:06.53 ID:M8TpVcKa0.net

308 ：：2022/08/24(水) 23:28:19.00 ID:o/8OQV/i0.net

279 ：：2022/08/24(水) 21:49:59.05 ID:27OYSu6K0.net

25 ：：2022/08/24(水) 16:50:43.69 ID:QgobsFyn0.net

11 ：デスルフォバクター(東京都) [US]：[ここ壊れてます] .net

113 ：：2022/08/24(水) 17:37:29.06 ID:n87QBljP0.net

273 ：：2022/08/24(水) 21:27:15.80 ID:/syRuJ6U0.net

201 ：：2022/08/24(水) 18:56:34.61 ID:Kmc8lsOk0.net

355 ：：2022/08/25(木) 07:03:06.93 ID:bnA1ZF8S0.net

410 ：放線菌(光) [US]：[ここ壊れてます] .net

236 ：：2022/08/24(水) 20:02:39.40 ID:qspwAVIM0.net

167 ：：2022/08/24(水) 18:19:14.73 ID:WwhPtNns0.net

283 ：：2022/08/24(水) 22:05:56.29 ID:SmjkB3rx0.net

56 ：：2022/08/24(水) 17:04:04.36 ID:CfNP+G0m0.net

97 ：：2022/08/24(水) 17:29:47.92 ID:yQecSXwm0.net

367 ：スネアチエラ(埼玉県) [EU]：[ここ壊れてます] .net

272 ：：2022/08/24(水) 21:25:10.68 ID:YKjcDOhy0.net

253 ：：2022/08/24(水) 20:37:17.40 ID:m84UPthM0.net

413 ：：2022/08/27(土) 14:40:52.02 ID:3X6CjN8D0.net

78 ：：2022/08/24(水) 17:17:39.30 ID:AB08FbZT0.net

338 ：：2022/08/25(木) 02:03:12.72 ID:mF9magoi0.net

32 ：：2022/08/24(水) 16:53:38.07 ID:duZC2psq0.net

36 ：：2022/08/24(水) 16:55:12.31 ID:lgOdqDUI0.net

287 ：：2022/08/24(水) 22:30:26.07 ID:lNEgDKkW0.net

319 ：：2022/08/25(木) 00:37:11.28 ID:kmA8op5h0.net

336 ：：2022/08/25(木) 01:55:48.81 ID:ycmOtH0s0.net

38 ：：2022/08/24(水) 16:56:07.53 ID:LTHFg+xl0.net

83 ：：2022/08/24(水) 17:21:08.41 ID:NNEorlY50.net

405 ：：2022/08/26(金) 10:24:19.69 ID:Q7SfQOzk0.net