HUSCAP logo Hokkaido Univ. logo

Hokkaido University Collection of Scholarly and Academic Papers >
Graduate School of Humanities and Human Sciences / Faculty of Humanities and Human Sciences >
応用倫理 >
第12号 >

アルゴリズムの判断はいつ差別になるのか : COMPAS 事例を参照して

Files in This Item:
12_01_Maeda.pdf588.2 kBPDFView/Open
Please use this identifier to cite or link to this item:

Title: アルゴリズムの判断はいつ差別になるのか : COMPAS 事例を参照して
Authors: 前田, 春香 Browse this author
Issue Date: 25-Mar-2021
Publisher: 北海道大学大学院文学研究院応用倫理・応用哲学研究教育センター
Journal Title: 応用倫理
Volume: 12
Start Page: 3
End Page: 21
Abstract: 本論文の目的は、Correctional Offender Management Profiling for Alternative Sanctions(以下COMPAS)事例においてアルゴリズムが人間と似た方法で差別ができると示すことにある。技術発展とともにアルゴリズムによる差別の事例が増加しているが、何を根拠に差別だといえるかは明らかではない。今回使用するCOMPAS 事例は、人種間格差が問題になっているにもかかわらず、そのアルゴリズムが公平であるかどうかについて未だ論争的な事例であり、さらには差別の観点からは説明されていない。本論文では、「どのような差異の取り扱いが間違っているのか」を説明する差別の規範理論を使ってCOMPAS 事例を分析する。より具体的には、差別の規範理論の中から「ふるまい」による不正さを指摘するHellman 説を適切なものとして選び、アルゴリズムに適用できるよう改良したうえでCOMPAS 事例が差別的であるかどうか分析をおこなう。この作業によって、差別的行為を「ふるまい」の問題として独立させ、一見差別の理論が適用できなさそうなアルゴリズムによる差別性の指摘が可能になる。
This paper aims to explain how algorithms can discriminate wrongly against humans in a human-like way. With technological developments, discrimination by algorithmic systems has become an issue. However, it is not clear what the wrongness of discrimination by algorithms is. It is also true for a famous case of Correctional Offender Management Profiling for Alternative Sanctions(hereafter COMPAS). The case has been controversial because of the fairness of the algorithm. Besides, the question of whether it is morally wrong discrimination or not remains to be seen. In this paper, I will give an analysis of the case of COMPAS by focusing on the point of whether this algorithm discriminates in a wrong way or not. First, More concretely, I will choose Hellman’s account, which can detect the wrongness of discrimination based on the behavior of the discriminator, as an appropriate one for algorithmic discrimination. Secondly, Hellman’s account assumes that humans as a discriminator will be improved in terms of power for this account to apply to algorithms. After that, I will offer an explanation of the case of COMPAS from an ethical viewpoint. This paper may provide a way to explain the wrongness of discrimination by algorithms based on their behavior even if it seems to be impossible for a theory of discrimination to apply to algorithms.
Type: bulletin (article)
Appears in Collections:応用倫理 > 第12号

Export metadata:

OAI-PMH ( junii2 , jpcoar_1.0 )

MathJax is now OFF:


 - Hokkaido University