アルゴリズムの判断はいつ差別になるのか : COMPAS 事例を参照して

前田, 春香

doi:https://doi.org/10.14943/ouyourin.12.3

アルゴリズムの判断はいつ差別になるのか : COMPAS 事例を参照して

前田, 春香

応用倫理, 2021, 12, 3-21

Permalink : https://doi.org/10.14943/ouyourin.12.3

このアイテムのアクセス数:2,618件（2026-08-13 06:49 集計）

閲覧可能ファイル

ファイル	フォーマット	サイズ	閲覧回数	説明
12_01_Maeda	pdf	588 KB	4,510

論文情報

ファイル出力 EndNote Basic出力 Mendeley出力

アクセス権	open access
DOI	https://doi.org/10.14943/ouyourin.12.3
URI	https://hdl.handle.net/2115/80958
タイトル	アルゴリズムの判断はいつ差別になるのか : COMPAS 事例を参照して
著者	著者名前田, 春香
言語	日本語
発行日	2021-03-25
出版者	北海道大学大学院文学研究院応用倫理・応用哲学研究教育センター
出版者	Center for Applied Ethics and Philosophy, Hokkaido University
収録物名	応用倫理
巻(号)	12
ページ	3-21
抄録	本論文の目的は、Correctional Offender Management Profiling for Alternative Sanctions（以下COMPAS）事例においてアルゴリズムが人間と似た方法で差別ができると示すことにある。技術発展とともにアルゴリズムによる差別の事例が増加しているが、何を根拠に差別だといえるかは明らかではない。今回使用するCOMPAS 事例は、人種間格差が問題になっているにもかかわらず、そのアルゴリズムが公平であるかどうかについて未だ論争的な事例であり、さらには差別の観点からは説明されていない。本論文では、「どのような差異の取り扱いが間違っているのか」を説明する差別の規範理論を使ってCOMPAS 事例を分析する。より具体的には、差別の規範理論の中から「ふるまい」による不正さを指摘するHellman 説を適切なものとして選び、アルゴリズムに適用できるよう改良したうえでCOMPAS 事例が差別的であるかどうか分析をおこなう。この作業によって、差別的行為を「ふるまい」の問題として独立させ、一見差別の理論が適用できなさそうなアルゴリズムによる差別性の指摘が可能になる。
抄録	This paper aims to explain how algorithms can discriminate wrongly against humans in a human-like way. With technological developments, discrimination by algorithmic systems has become an issue. However, it is not clear what the wrongness of discrimination by algorithms is. It is also true for a famous case of Correctional Offender Management Profiling for Alternative Sanctions（hereafter COMPAS）. The case has been controversial because of the fairness of the algorithm. Besides, the question of whether it is morally wrong discrimination or not remains to be seen. In this paper, I will give an analysis of the case of COMPAS by focusing on the point of whether this algorithm discriminates in a wrong way or not. First, More concretely, I will choose Hellman’s account, which can detect the wrongness of discrimination based on the behavior of the discriminator, as an appropriate one for algorithmic discrimination. Secondly, Hellman’s account assumes that humans as a discriminator will be improved in terms of power for this account to apply to algorithms. After that, I will offer an explanation of the case of COMPAS from an ethical viewpoint. This paper may provide a way to explain the wrongness of discrimination by algorithms based on their behavior even if it seems to be impossible for a theory of discrimination to apply to algorithms.
資源タイプ	紀要論文
出版タイプ	Version of Record
PISSN	1883-0110