差別批判をめぐる状況とエンジニアの良心について
本記事の背景
偏見をベースとしたプレゼンテーションとそれに端を発した議論がありました。
「女性エンジニア少ない問題」を解決するために、機械学習で男性エンジニアを女性に変換する
はてなブックマーク - 「女性エンジニア少ない問題」を解決するために、機械学習で男性エンジニアを女性に変換する - ログミーTech
印象に残ったのは次のブログ記事です。
女性エンジニア少ない問題を解決する話、の何が問題なのか
「女性エンジニア」発言についての私的見解 - 科学と非科学の迷宮
本件の他にも、差別関連のいろいろな騒動・炎上はこれまで何度もありました。
それらを見ている中で、少し図で整理をしたいと思ったのでその結果を記したいと思います。
（なお、以降の議論で「主語がでかい」という批判は受け付けません。分かりやすくするためあえてやってます。）
「差別」に対する一般的な認識
人は皆異なるもので、特定の属性のみでその人の評価を行えるものではありませんが、一方で、遺伝的あるいは文化的、社会的な影響により、一定の集団の属性（カテゴリー）にある程度の傾向が存在することも事実です。またその傾向は既に存在する差別によって作られたものである場合も多いことも気を付ける必要があります。
一方で、既に存在するこの環境により、偏見を持つことを避けることは困難です。
偏見に基づいてその集団に対して悪い印象を持っている場合はその集団に対する蔑視、逆の場合は羨望と言う形で表出することがあります。その蔑視に基づいて不当に低い評価をしたら、それは差別である。これは多くの人が共有できる「差別観」と言えると思います。
多くの人が、偏見に基づく蔑視の言動に対して「差別」として容認しないでしょう。
一方、その背景にある偏見に対しては、（愚かな見解とみなすことはあっても）悪意はないものとして容認しているのではないかと思います。
そこに「悪意」という「人間の意志が介在しているかどうか」がポイントであり、これが愚かな偏見と邪悪な差別を分かつ境界線であると思います。
偏見に基づく行為・羨望も悪なのか？
ところが、「偏見に基づいて褒めるのも差別」という論があります。褒める行為も悪なのか、と戸惑ってしまいます。これはどう考えたらよいのでしょうか。
この点について参考になる記事を挙げます。
褒める差別！？: 有為転変堂
人を属性で褒めるのは褒めてることにならねーよ、と言う話ですね。
偏見に基づく高評価はその偏見に合致しない人にとって不利益となります。偏見に基づく期待から外れた場合、不当に低く評価される恐れがあります。
逆に偏見に合致した場合でも、その属性だからその結果は当然であると思われたのなら、それは本人の努力や才能を不当に低く評価していることになります。
また、偏見に基づく羨望と蔑視は表裏一体とも言えます。おそらく一瞬で反転することもあるでしょう。
褒めてることにならないということも含め、偏見に基づいた評価は良かろうが悪かろうが容認されるべきではない、と言えます。
偏見は差別なのか
ここまでの議論では、偏見を持つことは避けられないし、そこに悪意はないから、と言う理由で容認してきました。
しかし、差別が「偏見」＋「悪意」のタッグで発生するのであれば、その片棒を担いでいる偏見を容認しない、というアプローチは差別防止に有効と言えるでしょう。
悪意とは人の心であり、他人の心のコントロールが不可能であることを考えると、このアプローチしか取れないという面もあります。
そもそも、人を偏見に基づきステレオタイプの認識の枠に押し込めることは、その人の自由を制約する、あるいは自由であろうとする際、余計な努力を強いることになります。
偏見を持つことは、意識しないままその人の自由を侵害することである、と言うこともできるでしょう。意識していないだけに認めたくはありませんが。
また、好意だろうが悪意だろうが、偏見に基づいた評価はよくない、と言うのであれば、差別の本質的な悪は、実は人の意思に関係なく偏見そのものに存在するのではないか、と考えられます。
では、避けられない「偏見を持つ」という行為をどう処理すればよいのでしょうか。
偏見を公の場に出さないという選択肢があります。
特定の集団における一定の傾向は、それまでの差別によって作られたものであることも多いと先に述べました。しかしこれは不正確です。実際には偏見によって作られていることが多いというべきでしょう。
傾向と偏見に再生産の関係があるのなら、偏見の流布を止めることによって偏向の再生産を止めることができます。その傾向が偏見によって作られたものならば、将来的に特定の傾向は消滅し、そこから偏見が発生することもなくなります。
その結果、差別は根本的な解消されるでしょう。
偏見を差別と非難すべきか
冒頭のプレゼンテーションの事例では偏見を土台としたボケに対して差別的であるとの非難がなされました。
偏見を露呈した人に対して「差別」との批判がなされることはこれまでもよくあったように思います。
一般的に「差別は悪意とともにある」という認識がされている中、「差別だ！」という言葉は、「お前は悪人だ！」と同等の意味を持ちます。
そのため、悪意を伴わない偏見に対して「差別」との批判に対しては「そんなつもりはない！言いがかりだ！」との戸惑いや反駁はごく当然の反応です。
偏見を露出してしまった本人は、それに気づいていない、すなわち愚かであっただけです。
愚かな行為に対して「悪人！」と罵ることは不適切と言うべきでしょう。阿呆を捕まえて悪人と罵るのは、罵っている方が阿呆というものです。
一方、自身の中にある偏見を臆面もなく、あるいは無邪気に表現するのは、少なくとも公の場においては行うべきではないでしょう。
偏見とは差別の土台であり、偏見がはびこる社会では差別が発生しやすくなるからです。悪意がない分、何度も繰り返されるたちの悪さがあります。
自身の中にある偏見を露出することは社会における差別を醸成する間違った行為であり、黒歴史にすべき恥とするべきです。
冒頭のプレゼンテーションの事例では、記事がそのまま公開された状態が続いています。偏見の流布を止めるという観点からは、偏見を露出しているところを削除して記事を書き直すのが適切ではないかと思います。*1
エンジニアとして偏見に対する感度を上げる必要性について
冒頭に挙げた記事の中に「AIによる差別」のリスクについて言及しているものがあります。これはかなり重要な事柄だと私は考えます。
「女性エンジニア」発言についての私的見解 - 科学と非科学の迷宮
エンジニアは、世の中に害を及ぼすものを作るべきではありません。技術系の国家資格では関連法令の知識が問われますし、技術士などは高い倫理観を持つことを要求されます。
科学技術は科学の守備範囲を超えて一般の人たちの価値判断に影響を及ぼします。水伝のようなニセ科学を道徳に応用するような“前科”があるのが私たちの社会です。他にも、「野生の動物は自分の食べる分しか殺さないのに人間ときたら…」なんて話もありますよね。ライオンやクマは繁殖のために前の雄の子を惨殺したりするんだけど野生の動物を本当に参考にしていいんですかと。
そして膨大な差別だの偏見だのが存在する中でのAIだのビッグデータだの機械学習だの、と言う状況です。
無警戒に機械にデータを食わせて、出力されるのが統計的差別のように「合理的()」なものだった場合にどうなるか。
人の悪意と言う分かりやすいチェックポイントがない分、差別と判断されにくくなります。
機械を噛ませた段階で差別の状況は隠ぺいされ、出力される結果は偏見を強化し、差別による人権侵害が正当化される状況があっという間に完成するでしょう。ツールが強力なだけに、一度世に出てしまうと修正を拒絶される恐れもあります。
これを阻止できる立場と能力を持っているのが私たちエンジニアです。作る段階で現存する差別状況の影響を排除する責任があります。*2
エンジニアはデータを機械に食わせる前に偏見によるデータの偏りを目ざとく見つけ出し、注意深く取り除く必要があります。
それを実行するためには自分の中と身の回りにある偏見に対する嗅覚を鋭くしなければなりません。面倒と思われるかもしれませんが、これは技術屋の誇りを持って取り組むべき課題です。私たちは誰かを不幸にするためにエンジニアになったわけではないのですから。
