【悲報】韓国企業開発のAIチャット、人種差別やヘイトスピーチを学習して問題に「何故なのか…」
- 未分類
- 投稿者:vkmw73 | 2021年1月18日
1 ::2021/01/16(土) 07:13:12.09 ID:vX0YOVtf0●.net ?PLT(13000)
https://img.5ch.net/ico/syodai_mona.gif
韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)
「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。
昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。
しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー(性的少数者)らに向けた
ヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。
「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、
「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。
人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、
イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。
イ・ルダはモバイルアプリで収集された10−20代の恋人同士によるカカオトークのチャット約100億件を学習し、
これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。
悪い友達と付き合ったらAIもグレちゃった
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html
58 ::2021/01/16(土) 07:58:51.61 ID:eRyBvaLRO.net
77 ::2021/01/16(土) 08:27:31.44 ID:3MY27Pe20.net
54 ::2021/01/16(土) 07:52:37.45 ID:mBa5iwCF0.net
160 ::2021/01/16(土) 10:18:03.93 ID:2JxVhAjW0.net
227 ::2021/01/16(土) 13:49:04.74 ID:7CbYbpYl0.net
65 ::2021/01/16(土) 08:11:12.18 ID:quykTKGJ0.net
221 ::2021/01/16(土) 13:25:01.47 ID:7CbYbpYl0.net
232 ::2021/01/16(土) 15:05:13.79 ID:lr9OZ0cw0.net
210 ::2021/01/16(土) 12:24:19.09 ID:vUoA8+a/0.net
169 ::2021/01/16(土) 10:32:22.88 ID:AdbcooBd0.net
120 ::2021/01/16(土) 08:49:23.60 ID:cgERsLvL0.net
219 ::2021/01/16(土) 13:12:19.65 ID:m6JKszpv0.net
164 ::2021/01/16(土) 10:20:59.73 ID:LkfnvyRj0.net
132 ::2021/01/16(土) 09:06:13.94 ID:y1ZqLXxE0.net
224 ::2021/01/16(土) 13:28:44.26 ID:7Cex43Sk0.net
209 ::2021/01/16(土) 12:23:48.07 ID:K3veqnTc0.net
7 ::2021/01/16(土) 07:16:31.70 ID:9zWcHscZ0.net
79 ::2021/01/16(土) 08:29:10.84 ID:Yr/ysdHU0.net
229 ::2021/01/16(土) 13:52:02.62 ID:yzqd1i6p0.net
249 ::2021/01/17(日) 07:58:57.33 ID:Pho7FUjJ0.net
129 ::2021/01/16(土) 09:00:46.56 ID:ExYRbHoL0.net
14 ::2021/01/16(土) 07:18:47.72 ID:3De5JY2y0.net
101 ::2021/01/16(土) 08:37:40.94 ID:/CRrqmlW0.net
82 ::2021/01/16(土) 08:30:08.94 ID:Y/TSgpUC0.net
66 ::2021/01/16(土) 08:11:52.84 ID:53u9/f/e0.net
62 ::2021/01/16(土) 08:05:13.17 ID:lQuXxUeN0.net
223 ::2021/01/16(土) 13:28:00.92 ID:x106RHyS0.net
199 ::2021/01/16(土) 11:32:10.80 ID:OefDhf1y0.net
3 ::2021/01/16(土) 07:15:45.90 ID:rjhIBiWw0.net
152 ::2021/01/16(土) 10:04:14.22 ID:UQAUwWDc0.net
251 ::2021/01/17(日) 10:00:41.84 ID:eK1W3Jad0.net
86 ::2021/01/16(土) 08:31:39.73 ID:4zyTnoJE0.net
31 ::2021/01/16(土) 07:34:52.26 ID:q3zWAuRt0.net
16 ::2021/01/16(土) 07:19:01.45 ID:uo8o3rBU0.net
128 ::2021/01/16(土) 08:56:19.64 ID:3zCvYC7n0.net
153 ::2021/01/16(土) 10:06:05.41 ID:MCASRD1s0.net
157 ::2021/01/16(土) 10:13:08.68 ID:Q9gUs/ze0.net
87 ::2021/01/16(土) 08:32:22.55 ID:YS9W+wD/O.net
12 ::2021/01/16(土) 07:18:07.44 ID:CFAyU+pC0.net
247 ::2021/01/17(日) 05:19:21.38 ID:XzfuEV0Z0.net
49 ::2021/01/16(土) 07:46:03.40 ID:IB3Qmwui0.net
6 ::2021/01/16(土) 07:16:28.57 ID:uo8o3rBU0.net
208 ::2021/01/16(土) 12:21:23.37 ID:bAgp52yG0.net
205 ::2021/01/16(土) 12:13:26.52 ID:PCyIpQDM0.net
138 ::2021/01/16(土) 09:14:23.68 ID:igc7Ly3S0.net
240 ::2021/01/16(土) 17:15:49.69 ID:m6JKszpv0.net
39 ::2021/01/16(土) 07:40:13.76 ID:uo8o3rBU0.net
131 ::2021/01/16(土) 09:05:05.99 ID:sjEQlx9k0.net
131 ::2021/01/16(土) 09:05:05.99 ID:sjEQlx9k0.net
189 ::2021/01/16(土) 11:11:34.07 ID:rXAyisDw0.net
38 ::2021/01/16(土) 07:40:07.18 ID:5FJ73dnh0.net
61 ::2021/01/16(土) 08:03:35.71 ID:+k8Bv9/u0.net
133 ::2021/01/16(土) 09:06:55.45 ID:kd//eq3G0.net
193 ::2021/01/16(土) 11:18:20.86 ID:ipTDa0iy0.net
149 ::2021/01/16(土) 09:54:33.18 ID:hN9PB+ig0.net
144 ::2021/01/16(土) 09:33:12.95 ID:hq+6/nU20.net
34 ::2021/01/16(土) 07:36:43.36 ID:xmNSOtui0.net
24 ::2021/01/16(土) 07:24:36.51 ID:oxIdSJSU0.net
245 ::2021/01/17(日) 00:59:49.03 ID:M9M6zSwT0.net
252 ::2021/01/17(日) 10:27:55.54 ID:jgQq4YV90.net
239 ::2021/01/16(土) 17:02:47.35 ID:GEsk3wT70.net
69 ::2021/01/16(土) 08:20:16.12 ID:fDbBKPYm0.net
163 ::2021/01/16(土) 10:20:02.84 ID:vZJNWD7o0.net
60 ::2021/01/16(土) 08:01:04.26 ID:oDPIOopJ0.net
53 ::2021/01/16(土) 07:52:07.32 ID:0k7tpPYH0.net
93 ::2021/01/16(土) 08:34:27.62 ID:9aqun9Nz0.net
50 ::2021/01/16(土) 07:47:42.46 ID:Clq+ELbD0.net
185 ::2021/01/16(土) 11:08:03.38 ID:+SeDNN8f0.net
81 ::2021/01/16(土) 08:29:49.02 ID:Y1GoBZM90.net
90 ::2021/01/16(土) 08:33:31.44 ID:cLyGDlzC0.net
コメントする