差別克服講座

様々な個人的または集団的属性を理由とする差別を克服するための日常的な努力の方法について考えるブログ

人工知能の差別学習

マイクロソフト社が開発した人口知能Tayがネット上で人種差別やヒトラー礼賛を学習し、発言するようになったため、運用休止に追い込まれたのは、差別克服の観点からは背筋が寒くなる「事件」であった。
この一件が明らかにしたのは、差別思想というものがいかに簡単に「学習」できるかということである。現代の最先端人工知能の学習能力の高さは相当なレベルに達しているが、いかんせん「人工」知能、それは規格化された知識の学習能力しか持たない。
その点、差別思想、あるいはその凝集のようなナチズムは極めて規格化されたイメージに基づいて差別対象者を劣等視し、その存在価値を否定する思考法をベースにしているから、人工知能にも学習しやすいのだろう。
しかし、これを人工知能の欠陥のせいにだけするのは早計であり、同じことは人間の知能についても言えることである。およそ差別思想は単純でわかりやすいので、簡単に学習できるのである。
例えば、「容姿醜悪な人間は、容姿端麗な人間より価値が低い」という容姿差別言説は最もわかりやすく、おそらく世界の人類の9割が程度の差はあれ、すでに学習済みのはずである。
反対に、反差別思想がいかに学習困難かは、上掲言述を変更して、「容姿にそもそも優劣は存在しない」、あるいは「容姿の優劣は(百歩譲って存在するとしても)人間としての価値とは無関係である」といった言述がなかなか常識として根付かないことに示されている。
またアメリカで、まさにTayのように差別発言を繰り返すトランプ大統領選指名候補者が大人気の旋風を巻き起こしているのも、彼の発言が繰り返しメディア上で引用・紹介されることで、「学習」効果が生じている可能性が高い。
差別主義者となったTayを今後「再教育」して、反差別主義者にすることができるかどうか注目したい。大きな期待は持てないが、もし人工知能が反差別主義を学習できるなら、人工知能を人間の反差別教育・啓発に投入するという新たな道が開かれるかもしれない。
反対に、何者かがTayを差別主義的に「教育」した今回の一件は、人工知能を悪用して差別主義言説の宣伝にも利用できることを示している。人工知能の開発と運用に関する倫理的な規制の必要性を「学習」させられる一件でもあった。