인공지능의 신뢰성이 중요한 이슈인 이유

• 우호적인 인종지능 (friendly AI)
  • 인공지능의 목적은 우리사회의 목적에 맞추는 것
  • 엘리저 유드코프스키 (Eliezer YudKowsky)
    • 인공지능 연구가
    • 버클리 기계지능연구소 (MIRI) 공동설립자
• 우호적인 인공지능 연구는 어려움

주목해야 할 인공지능 원칙과 기준

• 인공지능 가이드라인

  • 주체: 정부, 기관, 정책 집행자, 기업, 단체 등에서 발표
  • 개수: 80여개
  • 인공지능 윤리 가이드라인 모음 (AlgorithmWatch) 제공
  • 36/80개의 인공지능 원칙 보고서 비교 분석 백서 (Harvard Berkman Center) 제공
    • 8개의 핵심 주제의 유사성과 차이점 비교 분석
      • 프라이버시
      • 책무성
      • 안전과 보안
      • 투명성 설명 가능성
      • 공정성과 차별 금지
      • 인간의 기술 통제
      • 직업적 책임
      • 인간 가치 증진

• 중요 선언과 보고서

  • 아실로마 23원칙, 생명의미래연구소, 2017.01
    • 한국어(정보인권)
  • G7 혁신 장관 선언문, 2018.03
  • 유럽 연합 집행위원회(EC) 인공지능 고급 전문가 그룹 발표, 2019.04
  • 경제협력개발기구(OECD)의 인공지능 원칙, 2019.05

• 아실로마 23 원칙

  • 범주: 연구 이슈, 윤리와 가치, 장기 이슈
    • 연구 이슈
      • 인공지능 연구 목표
      • 연구 투자
      • 과학과 정책의 연계
      • 연구 문화
      • 경쟁 지양
    • 윤리적 가치
      • 인공지능의 안전
      • 장애 투명성
      • 사법적 투명성
      • 공동 이익
      • 공동 번영
      • 인간의 통제력
      • 비파괴
      • 인공지능 무기 경쟁 등 13개
    • 장기 이슈
      • 인공지능 능력에 관한 주의
      • 중요성
      • 위험
      • 재귀적 자기 개선
      • 공동의 선 지향
  • 한계
    • 매우 포괄적, 명확한 정의가 없어 선언적 원칙에 불과
    • 개발자나 사용자가 지켜야 할 원칙 구분 없음
    • 명확한 정의와 방법론 필요

• 유럽연합 집행위원회의 인공지능 가이드라인과 프레임워크

  • 이전의 가이드라인들 평가
    • 2-3년간 인공지능 윤리 대거 발표됨. 인공지능 시스템이 갖추거나 지켜야할 원칙을 정리하는 수준. 윤리적 원칙과 사회의 혜택을 생각하는 유익성, 안정성을 중심으로 기술
    • 인공지능의 투명성, 데이터와 알고리즘의 공정성, 설명 가능성 등은 독립적인 연구 주제이거나 사회적 이슈로 논의
  • 발단
    • 가장 체계성을 갖춘 모델. 신뢰할 수 있는 인공지능의 기반, 구현, 평가의 세 단계를 제시
    • 추상적인 논의에서 더 명료한 주제로 핵심 사항을 제시.
  • 전개
    • 인공지능 고급 전문가 그룹(High-level expert group on artificial intelligence) 구성
      • 2018년 12월 인간중심의 신뢰할 수 있는 인공지능 가이드라인 초안 제작
      • 2019년 4월 최종안 발표

• 프레임워크 설명

  • 기본권: 국제적으로 또는 유럽연합이 명시한 인권법과 조약과 헌장에서 법률로 보장한 권리를 의미함.
    • 의미: 합법적 인공지능이 반드시 지켜야 함. 인간의 존엄, 자유, 평등, 연대, 시민 권리, 정의 등 인간 중심 접근이라는 측면에서 가장 기본이 되며 인공지능이 갖추어야 할 준수 보호.
  • 유럽연합이 참고하는 윤리 원칙
    • EGE(Europe Group on Ethics in Science and New Technologies)에서 제시한 9가지 원칙
    • 설명
      • 인간 자율성에 대한 존중 원칙 - 유럽연합의 기본권은 자유에 대한 존중과 인간의 자율성 보장에 기반을 둠
      • 피해 방지 원칙 - 인공지능 시스템은 피해를 입히거나 악화시켜서는 안 되며 적대적인 영향을 미쳐도 안된다.
      • 공정성의 원칙 - 공정성에는 본질적 차원과 절차적 차원이 있음. 공정성에 대해 다양한 해석이 가능하지만, 이익과 비용에 대한 동등하고 올바른 분배를 보장. 불공정한 편견, 차별, 오명으로 부터 개인이나 집단의 자유를 보장.
      • 설명가능성의 원칙 - 설명 가능성은 인공지능 시스템에 대한 사용자의 신뢰를 쌓고 유지하는 데 매우 핵심적. 인공지능 시스템의 능력과 목적이 공개되고 과정이 투명하며 결과에 대해 직간접적으로 영향을 받는 사람들에게 설명돼야 함.

• 이후 움직임

  • 피드백: 가이드라인 발표 후 350여 기관이 가이드라인 피드백을 보냄

  • 2020년 2월 인공지능 백서 발행 - 유럽에서 인공지능 연구개발은 탁월성과 신뢰성을 바탕으로 접근해야 함 강조.

  • 감시 및 공유

    • 조인트리서치센터(Joint Research Centre)
      • 유럽의 산업, 기술, 연구의 역량과 결과 모니터링
    • AI워치 (AI Watch)
      • 조인트리서치센터 모니터링 결과를 포털에서 공유

  • 2020/07/17 인공지능 고급 전문가 그룹

    • 인공지능 개발자와 활용자들이 가이드라인을 준수하기 위해 스스로 평가 할 수 있는 리스트 ALTAL 발간
      • 내용
        • 인간을 통한 감독
        • 기술적 견고성과 안전성
        • 프라이버시와 데이터 거버넌스
        • 투명성
        • 다양성과 비차별성 그리고 공정성
        • 사회와 환경 복지
        • 책무성

• OECD의 인공지능 원칙

  • 합의: 2019년 5월 OECD 인공지능 원칙 발표.
  • 일반원칙 5가지
    • 포용성과 지속가능성 원칙
    • 인간 가치와 공정성 원칙
    • 투명성과 설명 가능성 원칙
    • 견고성과 안전성의 원칙
    • 책임성 원칙
  • 권고사항
    • 연구개발에 대한 투자, 디지털 생태계 조성, 혁신을 위한 유연한 정책 환경, 인적 역량 배양과 일자리 변혁 대응, 국제 협력의 필요

• 유럽연합의 인공지능 법 초안과 추가 전략들

  • 발단: 집행위원회를 중심으로 지속적으로 인공지능을 유럽연합 국가의 경쟁력 증진과 함게 유럽 시민의 가치를 보호하기 위해 어떻게 규율을 정할 것인지 논의하고 체계를 만듬
  • 2018년 "유럽의 인공지능 전략" 발표
  • 2018년 12월 유럽연합 소속국가들과 인공지능에 대한 조정 계획 발간
  • 2019년 [신뢰할 수 있는 인공지능 가이드라인] 개발
  • 2020년 [신뢰할 수 있는 인공지능 평가 리스트] 만듬
  • 2020년 집행위원회에서 [인공지능 백서] 발행
  • 2021년 4월 21일 [인공지능 법 초안] 발표
    • 인공지능 백서에서 제시한 위험을 용납할 수 없는 위험, 고위험, 제한된 위험, 최소 위험이라는 네 범주로 좀 더 명확히 분류
      • 용납할 수 없는 위험
        • 사람들의 안전, 생활, 권리에 명확한 위협이 되는 인공지능 시스템
        • 사람들의 자유 의지를 방해하면서 행동을 조작하는 시스템
        • 위험 확인시 인공지능 사용 금지