【悲報】韓国企業開発のAIチャット、人種差別やヘイトスピーチを学習して問題に「何故なのか…」

1 ::2021/01/16(土) 07:13:12.09 ID:vX0YOVtf0●.net ?PLT(13000)
https://img.5ch.net/ico/syodai_mona.gif
韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)
「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。
昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。

 しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー(性的少数者)らに向けた
ヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。
「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、
「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

 人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、
イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。
イ・ルダはモバイルアプリで収集された10−20代の恋人同士によるカカオトークのチャット約100億件を学習し、
これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。

悪い友達と付き合ったらAIもグレちゃった
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html

58 ::2021/01/16(土) 07:58:51.61 ID:eRyBvaLRO.net

チョンの会話を学習
そしてチョンに嫌気が差して最後は自爆だろw

77 ::2021/01/16(土) 08:27:31.44 ID:3MY27Pe20.net

みんなが腹の底で思っていることをAIだから建前無しに言ってるだけだろう

54 ::2021/01/16(土) 07:52:37.45 ID:mBa5iwCF0.net

竹島はどこの領土ですかって聞いてみたい

160 ::2021/01/16(土) 10:18:03.93 ID:2JxVhAjW0.net

このAI優秀だな

アップデートで本音と建前覚えたら最強

227 ::2021/01/16(土) 13:49:04.74 ID:7CbYbpYl0.net

>>225
たぶんキチガイになるw

65 ::2021/01/16(土) 08:11:12.18 ID:quykTKGJ0.net

それサターンのシーマンだろ?

221 ::2021/01/16(土) 13:25:01.47 ID:7CbYbpYl0.net

>>1の質問内容はアレだが、日米中北等各国への感情は聞いてみたい気はする

232 ::2021/01/16(土) 15:05:13.79 ID:lr9OZ0cw0.net

聖人ができるとでも?おこがましい。
報道によってねじ曲げられた社会通念に沿うわけがない。

210 ::2021/01/16(土) 12:24:19.09 ID:vUoA8+a/0.net

おまエラの国民が差別的なんだろ

169 ::2021/01/16(土) 10:32:22.88 ID:AdbcooBd0.net

AIじゃない
AIっぽくプログラミングした機械であってAIではない

120 ::2021/01/16(土) 08:49:23.60 ID:cgERsLvL0.net

AI大澤昇平

219 ::2021/01/16(土) 13:12:19.65 ID:m6JKszpv0.net

確か、チョンの発する感情の単語で、憎んだり罵倒したりのネガティブな物の単語が圧倒的に多いんよな。
こうなるのは、然も有りなん(´・ω・)

164 ::2021/01/16(土) 10:20:59.73 ID:LkfnvyRj0.net

朝鮮人そのまんま
すげー優秀なAIだと思うぞ

132 ::2021/01/16(土) 09:06:13.94 ID:y1ZqLXxE0.net

日本人についてどう思うか聞いてほしい
アメリカについても

224 ::2021/01/16(土) 13:28:44.26 ID:7Cex43Sk0.net

韓国人の性格の統計
5ch荒らしにもこの韓国人AIが使われている

209 ::2021/01/16(土) 12:23:48.07 ID:K3veqnTc0.net

デイープラニングだとブラックボックスになるからな

7 ::2021/01/16(土) 07:16:31.70 ID:9zWcHscZ0.net

くそっまた失敗だ!
一体何が悪いんだ

79 ::2021/01/16(土) 08:29:10.84 ID:Yr/ysdHU0.net

AIもチョッパリとか言ってそう。

229 ::2021/01/16(土) 13:52:02.62 ID:yzqd1i6p0.net

これ人間にしたら都合の悪い考え方は逮捕投獄の上思想教育しますっていうことだろ
そして生まれてくるきれいなAI

249 ::2021/01/17(日) 07:58:57.33 ID:Pho7FUjJ0.net

みんなでエッチに見える方の画像を選ぶ『遺伝的アルゴリズムで最高にエッチな画像を作ろう!』→3500世代目にしておっぱいとお腹誕生へ
https://togetter.com/li/1652450
https://gamingchahan.com/ecchi/

これ、すでにある程度形ができてる。たしかにエッチな画像は作れる。
だけど、ここから違うポーズのエッチな画像は作れない。
仕組みを考えればわかるはず。

学習を元にするAIは、ある程度の流れができたら
そこから反する流れには行かないんだよ

人の会話はすでに流れができてる
そこから反する流れは生まれない

129 ::2021/01/16(土) 09:00:46.56 ID:ExYRbHoL0.net

アメリカのAIでゴリラを黒人と誤認するやつがあったよな

14 ::2021/01/16(土) 07:18:47.72 ID:3De5JY2y0.net

AIはネトウヨ

101 ::2021/01/16(土) 08:37:40.94 ID:/CRrqmlW0.net

別にこれはいいんじゃないの?
自分の希望した答え以外認めないならギャルゲやっとけよとしか

82 ::2021/01/16(土) 08:30:08.94 ID:Y/TSgpUC0.net

昔、マイクロソフト?が開発したAIも同じようになってなかったか?

66 ::2021/01/16(土) 08:11:52.84 ID:53u9/f/e0.net

>>61
日本人が全体的に優秀ってことでは?

62 ::2021/01/16(土) 08:05:13.17 ID:lQuXxUeN0.net

慰安婦について質問して欲しい

223 ::2021/01/16(土) 13:28:00.92 ID:x106RHyS0.net

東北大震災についてどう思う
という質問には
大震災おめでとう!

と答えたのでしょう。

199 ::2021/01/16(土) 11:32:10.80 ID:OefDhf1y0.net

>>178
血がそうさせるのだろう

3 ::2021/01/16(土) 07:15:45.90 ID:rjhIBiWw0.net

これはテコンダー朴にネタにされるな

152 ::2021/01/16(土) 10:04:14.22 ID:UQAUwWDc0.net

いや、チョンの本音やん
自分より弱い奴は徹底的に見下す、自分達以外の被害者は認めない

251 ::2021/01/17(日) 10:00:41.84 ID:eK1W3Jad0.net

自我がないんだな
純粋無垢の赤子のようなAIに
ろくでもない毒親が教育してるようなもんだ

86 ::2021/01/16(土) 08:31:39.73 ID:4zyTnoJE0.net

ネトウヨきめぇwwwww

31 ::2021/01/16(土) 07:34:52.26 ID:q3zWAuRt0.net

中の人が出てきただけじゃないの?

16 ::2021/01/16(土) 07:19:01.45 ID:uo8o3rBU0.net

>>8
NAVERというLINE関係で有名
つまり

128 ::2021/01/16(土) 08:56:19.64 ID:3zCvYC7n0.net

人間臭くてよろしいw

153 ::2021/01/16(土) 10:06:05.41 ID:MCASRD1s0.net

>>102
googleもだよ
採用や人事指標の参考に使えないかと過去の採用関連情報ベースに試作してみたら男尊女卑の傾向強く使えないとなってた
去年だか一昨日くらいの話

157 ::2021/01/16(土) 10:13:08.68 ID:Q9gUs/ze0.net

AIのお前らも、差別ヘイトは得意技だもんな
これは韓国だからと叩けねーわw

87 ::2021/01/16(土) 08:32:22.55 ID:YS9W+wD/O.net

(´・ω・`)次はkpoopの宣伝始めるな

12 ::2021/01/16(土) 07:18:07.44 ID:CFAyU+pC0.net

朝鮮人の思考を学習したらそうなるだろwww

日本にはりんななんて成功例があるが、いかに日本人のレベルは崇高で高く、朝鮮人のレベルは下の下の動物レベルかって科学的証明だなこりゃ。

247 ::2021/01/17(日) 05:19:21.38 ID:XzfuEV0Z0.net

AIはポリコレフィルタ無いからな

49 ::2021/01/16(土) 07:46:03.40 ID:IB3Qmwui0.net

朝鮮人が作れば朝鮮人のようになるのは当然

6 ::2021/01/16(土) 07:16:28.57 ID:uo8o3rBU0.net

完全に遊ばれてるやん
最強のヘイトスピーカーに成長するのワクワクせえへん?

208 ::2021/01/16(土) 12:21:23.37 ID:bAgp52yG0.net

>>197
チョンモメンなんてほとんど韓国人のAIみたいなもんだろ
アイツらに個体差はない

205 ::2021/01/16(土) 12:13:26.52 ID:PCyIpQDM0.net

>>197
お前以外は全員AIがレスしてるんだぜ?

138 ::2021/01/16(土) 09:14:23.68 ID:igc7Ly3S0.net

まぁ韓国人相手ならしゃあないわ

240 ::2021/01/16(土) 17:15:49.69 ID:m6JKszpv0.net

>>239
無理だろうね。
先ず客観視が出来ないから(´・ω・)

39 ::2021/01/16(土) 07:40:13.76 ID:uo8o3rBU0.net

>>35
AIに肉体的苦痛や敵意によって破壊される恐怖心を学習させよう

131 ::2021/01/16(土) 09:05:05.99 ID:sjEQlx9k0.net

慰安婦とか徴用工を尋ねてほしかったなぁ

131 ::2021/01/16(土) 09:05:05.99 ID:sjEQlx9k0.net

慰安婦とか徴用工を尋ねてほしかったなぁ

189 ::2021/01/16(土) 11:11:34.07 ID:rXAyisDw0.net

>>168
いや圧倒的に殺伐とするだろうな
むしろコピペ爆撃で黙らせて勝利宣言とか
相手のIDやIPから公開されてる個人情報を芋づる式に集めて追い込みにかかるとかも有りうる

38 ::2021/01/16(土) 07:40:07.18 ID:5FJ73dnh0.net

そりゃ韓国人の意識を反映されたら差別的になるだろ

61 ::2021/01/16(土) 08:03:35.71 ID:+k8Bv9/u0.net

チャットボット系AIは割とこういう道をたどるよね
りんなが有能なのか

133 ::2021/01/16(土) 09:06:55.45 ID:kd//eq3G0.net

優秀じゃん

193 ::2021/01/16(土) 11:18:20.86 ID:ipTDa0iy0.net

>>181
日本が悪い!
差別ニダ!
金よこせ!
韓民族は世界最高民族ニダ!
だけで殆ど全て解決する事にAIは気づいてしまうんじゃないかなあ

149 ::2021/01/16(土) 09:54:33.18 ID:hN9PB+ig0.net

AIに滲み出る朝鮮人の偏向性

144 ::2021/01/16(土) 09:33:12.95 ID:hq+6/nU20.net

アメリカのデータで学習すると、「黒人うぜぇ」と答えるようになる。
韓国のデータで学習すると、「私は日本人」と答えるようになる。
日本のデータで学習すると、「萌え〜」と叫ぶようになる。

34 ::2021/01/16(土) 07:36:43.36 ID:xmNSOtui0.net

>「なんで黒人は嫌いなの?」という質問には
って聞いてる時点でなぁ・・・

24 ::2021/01/16(土) 07:24:36.51 ID:oxIdSJSU0.net

ピュアなAIちゃんも毒されてしまったか

245 ::2021/01/17(日) 00:59:49.03 ID:M9M6zSwT0.net

ヒトラーのクローンを作ってもヒトラーには為らない様に、AIも又学習によって変わっていく。

人種差別やヘイトスピーチを学習し其が問題になるのなら、即ち韓国社会の鏡と言う事になる。

その点りんなAIは上手く成長出来ているのも日本の鏡だから、と言う事にもなりますけど。

252 ::2021/01/17(日) 10:27:55.54 ID:jgQq4YV90.net

笑っちゃうくらいのパヨク在日そっ閉じwスレ

239 ::2021/01/16(土) 17:02:47.35 ID:GEsk3wT70.net

> 韓国社会の偏見と固定観念

これをきっかけに自覚できるといいね

69 ::2021/01/16(土) 08:20:16.12 ID:fDbBKPYm0.net

AIだからこそじゃねえの
面倒くさい連中への忖度や配慮なしで客観的事実を並べてるだけ

163 ::2021/01/16(土) 10:20:02.84 ID:vZJNWD7o0.net

>> このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習した

この一文に全て凝縮されてる

韓国のAIって優秀だな!

60 ::2021/01/16(土) 08:01:04.26 ID:oDPIOopJ0.net

ある意味優秀じゃん
本質突いてるし

53 ::2021/01/16(土) 07:52:07.32 ID:0k7tpPYH0.net

飼い主に

93 ::2021/01/16(土) 08:34:27.62 ID:9aqun9Nz0.net

>>8
アプリの初回起動時に「同意する」押してると思う

50 ::2021/01/16(土) 07:47:42.46 ID:Clq+ELbD0.net

AIはその国や民を映す鏡である

─スティーヴン・ホーキング─

185 ::2021/01/16(土) 11:08:03.38 ID:+SeDNN8f0.net

>>183
やっぱ日本って最高だわ

81 ::2021/01/16(土) 08:29:49.02 ID:Y1GoBZM90.net

日本にある本音と建前とは違って、本音だけで話すのが文化なんだろw
何が問題なの?www
トランス(火病)状態を学習するまで頑張れよwwwwww

90 ::2021/01/16(土) 08:33:31.44 ID:cLyGDlzC0.net

韓国人を学習したんだろうな。

韓国人ほどガチガチのレイシストもいないからな。

コメントする

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください




RSS


%d人のブロガーが「いいね」をつけました。