강의 9: AI 윤리

***세르게이 카라예프**의 강연. 메모는 제임스 **레**와 비슈누 **라차콘*다가 필사했다.

윤리는 많은 학문들을 포괄하고 많은 다른 문제들을 다루는 방대한 주제다. ML 실무자로서, 우리는 학생 마인드를 가져야 하고, 이것이 쉬운 문제가 아니기 때문에 답을 가지고 있다고 생각하지 말아야 한다.

1 - 윤리란 무엇인가?

윤리의 정의부터 시작해보자.

• 윤리는 감정이 아니다. 왜냐하면 당신의 감정이 당신을 오도할 수 있기 때문이다.
• 윤리가 법을 대체할 수 있기 때문에 윤리는 법이 아니다.
• 도덕은 부도덕한 사회도 윤리의 집합을 가지고 있기 때문에 사회적 신념이 아니다.

윤리학 이론

Kevin Binz는 다음과 같은 **윤리적 이론**의 **투어를 준비**했다.

• 신의 명령 이론은 신이 그것을 명령한다면 행동이 도덕적이라고 말한다. 이 이론은 정확할지 모르지만 철학은 그것과 관련되지 않는다.
• 덕행윤리론은 행동이 사람의 덕행(용서, 관대, 사랑 등)을 지탱한다면 도덕이라고 말한다. 이 이론은 분명 철학적 탐구에는 견실하지만, 덕행은 사람의 일생에 걸쳐 끈질기게 지속되지 않고 다소 환상적이라는 증거가 늘어나고 있다.
• 신학(의무에 근거한**)** 이론은 어떤 행동이 정언적 명령(즉, 거짓말을 하지 말라, 죽이지 말라)을 충족한다면 도덕적이라고 말한다. 이 이론은 많은 상황에서 직관에 반하는 도덕적 결정으로 이어질 수 있고 많은 사람들에게 받아들일 수 없는 경직성을 가지고 있다.
• 공리주의는 어떤 행동이 대부분의 사람들에게 가장 좋은 것을 가져다준다면 도덕적이라고 말한다. 하지만 물론 효용성은 어떻게 측정할 것인가?

직업 철학자들 사이에 뚜렷한 승자가 있는 것 같지 않다. 이 **조사**를 보면 덕과 신학, 공리주의 사이에 균등한 분열이 있는 것으로 보인다.

트롤리 문제

'트롤리 문제'는 종종 도덕적 딜레마를 제시함으로써 사람의 윤리에 대한 직관을 얻기 위해 사용된다. 전형적인 딜레마는 다음과 같다. 다섯 명이 달려들려고 하는 전차가 보이시죠. 하지만 한 사람만 치도록 우회시킬 수 있다. 네가 해 줄래? 그것은 실제로 많은 좋은 밈으로 이어진다. 🤣

또 다른 두드러진 윤리적 이론은 존 롤의 **정의론**이다. 롤스는 자원의 균등한 분배는 공리주의 철학을 따르는 대신 바람직한 자연상태여야 한다고 주장했다. 정의론은 모든 개인이 기본적인 자유에 대한 동등한 권리를 가지고 있다고 주장한다. 그들은 비슷한 능력을 가진 다른 개인들과 동등한 기회와 기회를 가져야 한다.