독하나, 자율주행차를 위한 윤리 선언 좋은정보

>

들어가기 조금 전에 오메리카 NHTSA에서 작성된 'AUTOMATED DRIVING SYSTEMS-A Vision for Safety 2.0'에 대해서 정리하 옷슴니다. 글의 제목을 미국의 자율주행차 개발 가이드라인이라고 썼어요. 이글의제목을다시써보니까독이거나자율주행을위한윤리선언이라고정했어요. 비슷한 제목인 것 같지만 실제로는 많은 차이가 있어요.미국은 자율주행차 개발을 위한 가이드라인이고, 독일은 자율주행차 운행에 있어 윤리적 사고를 주로 다루고 있습니다. 두 문서 모두 '안전, Safety'를 중앙으로 이야기하는데, 미국의 경우 기술적인 접근법에 대한 스토리가 많고 독 하나는 더 인간복판적인 예기를 기록하고 있습니다. 여기에는 문서를 작성한 주체가 어디인지가 크게 작용한 것 같습니다. 미국 NHTSA는 미국 도로에서 발생하고 예상되는 안전 위험 요소를 해결하기 위해서 USDOT산하의 정부 조직인 독일과 윤리 위원회(EthicsCommission)은 철학, 법학, 사회 과학, 기술 영향 평가, 자동차 산업 및 소프트웨어 개발 분야 등 다양한 전문 집단이 별도로 구성되고 자동 운전 차의 윤리적인 사고에 집중한 조직이기 때문이다. ​, 강한지의 문서는 20하나 7년 6월에 세상에 알려짔 슴니다. 다음번에 변경된 본인추가 소식은 듣지 못해서 다음 업데이트가 됐는지 모르겠습니다. 미국과 달리 윤리적인 기준에 대해 정리한 것이라 쉽게 바꾸지 않는 것처럼 보인다.문서는 총 36쪽으로 구성되어 있어 아래 보이는 것과 함께 5개의 장으로 본인 뉘어 있는 슴니다.

저는 5개의 장 속에서 한매 소개, 3장 자동 및 연결 차량에 대한 윤리적 규칙에 대해서 정리하고 보도록 하겟움니다. 그리고 4장의 토론 결과 및 해결되지 않는 문재도 중요한 이에키이 있지만 전체 정리할 수 없고 4장에 포함되는 하위 제목을 정리하는 것으로 만족하다 겟움니다. 앞으로 틈틈이 허락되면 정리하도록 노력하겠습니다. 그래도 문서의 주요 이야기 하나매와 3장을 정리하고 문서가 하고 싶이에키웅 모른다고 생각한다.이번 글은 해당 문서가 1년 이상 된 이전에 발표된 문서입니다만, 자동 운전 차의 윤리적 접근을 한 세계 최초의 문서입니다. 그래서 글을 포스트 하기로 결정했어요. 그리고 자율주행차의 윤리적 문재 접근은 실제 자율주행차가 세상에 등장하는 날까지 이어지는 글재이기 때문입니다. 이 문재는 계속적으로 감정하고 사회적 합의 과정을 거쳐야만 가능한 1라고 생각합니다.이문장도조금길어질것으로예상되니까마음준비하세요. 미쿡보다는 짧기 때문에 여러분들이 앞에서 글을 읽으신 분량만큼 충분히 버틸 수 있는 분량입니다.그럼 가벼운 마음으로 시작한다.

>

I. 소개=전 세계적으로 디지털 혁명으로 모빌리티는 더욱 더 구체화되고 있습니다. 공공도로환경에서 운영하는 민간교통의 자동화는 운전자에게 운전부하를 완화하고 운전자를 보조하는 과도한, 심지어 부분적으로 또는 완전히 대체하도록 돕는 기술운전 보조장치를 뜻한다. 주행의 부분적 자동화는 이제 새 차 그냥 장비예요. 인간의 개입 없이 차선, 브레이크, 방향 조정을 자율적으로 변경할 수 있는 조건부 및 고도로 자동화된 시스템이 제공되어 대량 생산될 예정입니다. 도크 최초와 미국 전체에서 조건부로 자동화된 차량이 작동할 수 있는 테스트 트랙이 있습니다. 지역 대중교통을 위해 운전사가 없는 로봇택시와 와인버스가 개발되고 있습니다. 올해 첫날 프로세서는 이미 사용 가능한 적절한 센서를 통해 차량의 근접한 환경에서의 교통상황을 실시간으로 감지하고 차량의 위치를 적절한 지도자료로 판정해 역동적으로 계획, 변경할 수 있도록 개발되었습니다. 차량 주변의 인지(perception)가 점점 완벽해지면서 도로 사용자, 장애물 및 위험한 상황을 보다 효과적으로 구별할 수 있습니다. 이 때문에 도로의 안전성이 크게 향상될 기회가 높습니다. 사실 이 개발이 끝과 인면 본질적으로 안전한 자동차, 즉 어떤 상황에서도 결코 문제에 개입하지 않는다는 것을 배제할 수 없습니다. 그럼에도 불구하고 첫날 기술적으로 가능한 수준에서, 그렇게 복잡하고 연결되지 않은 도로의 교통 상황을 고려하면 문제를 완전히 예방하는 것은 불가능할 것입니다. 따라서 조건적으로 고도로 자율주행 시스템의 소프트웨어를 프로그래밍할 때는 의사결정이 필수적입니다.기술적 발전을 통해 정부와 사회가 새로운 변천에 대해 반성하도록 강요받고 있습니다. 판정해야 할 사항은 자율주행 시스템의 면 합격, 윤리적으로 정당한가, 아니면 필수인가 입니다. 이러한 시스템에 대한 라이선스가 부여된 경우(이미 국제수준에서 이 문제가 발생한) 모든 것은 해당 시스템이 사용되는 조건과 설계 방식에 따라 달라집니다. 근본 차원에서 모든 것은 이 질문에 귀결된다. 향후, 인공지능을 기반으로 하는 기술적으로 복잡한 시스템(기계 학습 기능을 포함한다)에 많이 의존하게 되어도, 안전성, 이동성, 및 편리성을 높이기 위해서, 어느 정도 과잉으로 받아 들여질까? 통제성, 투명성, 데이터 자율성을 보장하기 위해 취해야 할 예방조치는 무엇인가? 개인, 개발의 자유, 물리적, 지적 진실성과 법적 존중의 중심에서 사회적 존경을 받을 수 있는 인류사회의 윤곽을 흐리지 않도록 하기 위해 필요한 기술개발 지침은 무엇인가?

>

III. 자율주행(Automated) 및 연결(Connected) 차량에 대한 윤리적 규칙 하나. 부분과 완전 자율주행 시스템의 주된 목적은 모든 도로 사용자의 안전을 향상시키는 것이었다 또 다른 목적은 모빌리티(Mobility) 기회를 항상 사용하여 더 많은 이익을 창출하는 것입니다. 기술개발은 개인의 자율성 원칙에 따른다. 즉, 개인은 자신이 책임 지는 행동의 자유를 누린다. ​ 2. 개인의 보호는 다른 모든 실용적인 고려보다 우선하는 것이다. 목적은 완전히 예방될 때까지 해를 줄이는 것입니다. 자동 운전 시스템의 라이선스는 사람의 운전과 비교하면 적어도 위험성을 줄이기 위해 보장하지 않는 한 정당화할 수 없습니다. 다시 이야기하고 위험.적으로 균형(apositive balance of risks)을 표현할 것. ​ 3. 공공 부문은 공공 도로 환경에서 도입된 허가된 자동화 및 연결(Automated and Connected)시스템의 안전을 보장할 책임이 있다. 따라서 운전 시스템에는 공식적인 라이선스 및 모니터링이 필요할 것이다. 위 햄의 균형이 근본적으로 긍정적이면 기술적으로 피할 수 없는 남아 있는 데다 햄.이 자동 운전의 도입에 영향을 미치지 않지만 지도(guiding)원칙은 사고 회피였다 ​ 4. 결정을 내린 개인의 개인적 책임은 개인의 발전에 대한 권리와 보호의 필요성과 함께 개인의 인간 가운데 사회를 표홍하는 것이었다 따라서 모든 국가와 정치적 규제 결정의 목적은 개인의 자유로운 발전과 보호를 촉진하는 것이었다 글씨 비슷후에니 기술이 법률에서 구체화되는 비결은 하나발죠크잉 발전의 제도에서 개인 선택의 최대 자유와 타인의 자유와 그들의 안전 사이에서 균형을 잡는 것이었다 ​ 5. 자동으로 연결(Automated and Connected)기술은 이것이 실제로 가능한 모든 곳에서 사고를 방지해야 할 것이다. 기술은, 기술의 상태에 근거해 우선 위험·상황이 발생하지 않게 설계되어야 한다. 여기에는 딜레마 상황이 포함됩니다. 즉, 자동차가 두 개 중 어느 쪽을 '결정'해야 하는지, 즉 절충이 없을 경우 반드시 수행해야 하는 상황이 포함됩니다. 이러한 맥락에서 예를 들면 적용범위를 관리 가능한 교통환경, 차량센서 및 제동성능으로 제한하는 것부터 위험에 처한 사람을 위한 신호, 즉 "지능형" 기반구조에 의해 계속적으로 위험·을 예방하는 것으로 진화해야 한다. 도로 안전성의 중요한 향상은 개발 및 규제의 목표이며, 차량이 방어적이고 예측 가능한 방식으로 주행하도록 설계 및 프로그래밍을 시작하고 도로 사용자에게 최대한의 위 함.을 주지 않는 것이었다 ​ 6. 자동화된 충돌 방지 옵션과 함께 따른 고도로 자율 주행 시스템을 도입하고 기존의 잠재의 위 함.가능성을 해소할 수 있다면 사회적 윤리적으로 위임받을 수 있다. 반대로, 완전 자동화된 운송 시스템을 사용하는 법적인 의무 또는 기술적 불가피성의 원인이 기술적인 요구사항(단순 네트워크 요소의 품질 저하 방지)에 의한 것이라면 윤리적으로 의심스럽다.​ 7. 어쩔 수 없이 불가피한 데다 햄.말한 상황에서 기술적인 예방조치가 취해져 슬그머니도 법적으로 보호받은 이해관계의 균형을 유지하기 위해 인간의 생명을 보호해야 하는 것이다. 따라서 기술적으로 실현 가능한 제약 중에는 신체 상해를 예방할 수 있다면 충돌 시 동물의 과도한 재산에 피해를 주기 위해 시스템을 프로그래밍할 필요가 있다.8. 한 인간의 생활과 다른 인간의 삶 사이의 결정과 같은 진정한 딜레마 결정은 영향을 받은 당사자들의 '예측할 수 없는' 행동을 반영하여 실제 상황에 달려 있습니다. 따라서 이들은 명확하게 일반화되지 않고 윤리적으로 의심할 여지 없이 프로그램할 수 없다. 기술 시스템은 사고를 피하도록 설계되어야 할 것이다. 따라서 책임 있는 운전자의 결정을 바꿀 수 있는 거인의 예측할 수 있는 도덕적 능력으로 사고의 영향을 복잡하고 거인의 직감적으로 평가하는 것은 잘화되지 않는다. 한명 이상 남의 목숨을 구하기 위한 비상 사태로 사람을 살해한 경우 불법 행동하는 사람이 운전수 한명이라는 것은 사실이지만 그는 반드시 고의로 행동하지 않는다. 돌이켜보면 특수한 상황을 고려한 그런 법적 판결은 추상적/일방반적인 사전평가와 그에 따른 프로그래밍 활동에서는 쉽게 변형될 수 없다. 이러한 이유에서, 아마도 다른 누구보다도 독립된 공공부문 기관(예: 연방국가 자율주행 시스템과 관련한 사고연구국 또는 자동 및 연결(Automated and Connected) 운송에 대한 안전을 위한 연방사무국)이 지시하는 지침대로 체계적으로 처리하는 것이 바람직할 것이다.​ 9. 피할 수 없는 사고 상황의 경우 개인의 특성(연령, 성별, 신체적 또는 정신적 상태)에 따른 구분은 엄격히 금지된다. 또 희생자가 서로 상쇄하는 것도 금지된다. 부상자 수를 줄이기 위한 전반적 프로그래밍은 정당화될 수 있다. 이동성의 위험. 발생에 관계되는 당사자는 참가하지 않은 당사자를 희생해서는 안 된다.​ 하나 0. 자동으로 연결(Automated and Connected)주행 시스템의 경우 예전에는 유학도 한 책임이 자동차의 개인 운전자로부터 기술 시스템 제조 업체와 운영자, 인프라, 정책 및 법적 의사 결정을 담당하는 기관에 개인의 유학도 한 보존했다는 책임이 옮겨지게 됬다. 법정책임제도와 법원이 일일이 취하는 이상적인 결정은 이런 화천을 충분히 반영해야 한다.동작 중 자동운전 시스템에 의한 손해에 대한 책임은 다른 제품책임과 동일원칙에 따라 결정된다. 이것에 의해 메이커 또는 오퍼레이터는 시스템을 지속적으로 최적화하는 동시에, 이미 제공한 시스템을 관찰해, 기술적으로 가능하고 합리적인 곳으로부터 시스템을 개선할 의무가 있다.​ 하나 2. 대중은 충분히 차별화된 방식으로 신기술이나 그 실장에 관한 정보를 얻을 권리가 있다. 원리를 구현하기 위해 개발된 자율주행차의 구현 및 프로그래밍에 대한 지침은 전문적이고 적절한 독립기관에 의해 검토되고 가능한유출적인 형태로 전해져야 한다.​ 하나 3. 현재 철도 및 항공 수송 부문과 비슷한 디지털 운송 인프라의 맥락에서 모든 자동차의 완전한 연결(connectivity)및 중앙 제어를 갖는 것이 미래에 가능한지를 명시할 수 없다. 디지털 전송 인프라의 맥락에서 모든 자동차의 완벽한 연결과 중앙제어는 도로 사용자의 전체 감시 및 차량제어 조작을 안전하게 배제할 수 없다면 윤리적으로 의심스럽다.​ 하나 4. 자율 주행은 의견 수 있는 공격, 특히 IT시스템 또는 타고난 시스템의 허점의 조작으로 도로 운송에 대한 사람들의 신뢰를 영원히 해칠 그런 해를 끼치지 않는 상황에서만 정당화된다.​ 하나 5. 발발한 데이터를 사용할 수 있는 허가된 비즈니스 모델이 자동 및 연결된(Automated and Connected)주행 및 차량에 쥬은요하고 나 중요하지 않은 통제는 도로 사용자의 자율성과 데이터 주권에 있어 한계에 부닥치게 된다. 발발한 차량의 데이터가 전달되어 사용되고 있는지 여부를 결정하는 것은 차량의 보호자 및 사용자였다 그러한 데이터 유출의 자발적인 성격은 진지한 대안과 실행 가능성의 존재를 전제로 할 것이다. 검색 엔진이 과도한 소셜 네트워크의 운영자가 데이터에 액세스 하는 경우와 같은 사실의 규범적인 영향력에 대응하기 위한 조치가 초기 단계에서 취해져야 한다.​ 하나 6. 자율 주행 시스템이 사용되거나 운전자가 시스템을 취소할 수 있는 옵션을 갖고 책임을 질 수 있는지 여부를 명확히 구별할 수 없으면 안 되겠다. 드라이버가 있는 경우, 휴먼 머신 인터페이스(Human Machine Interface, HMI)는 언제든지 명확히 규제되어 개인의 책임이 어디에 위치하는지 명확히 알 수 있도록 설계되어야 하며, 특히 통제의 책임이 있어야 한다. 예를 들어 시간 및 접근 준비와 관련해 책임의 분배(그러므로 책임성)는 문서화되어 보존되어야 한다. 이는 특히 인간 대 기술이전(Handover) 절차에 적용된다. 자동차 및 디지털 기술이 국경을 넘는 가운데 로그 또는 문서화 의무의 호환성을 보장하기 위해서 이전 절차 및 문서화(로그)의 국제 보급을 도모해야 한다.​ 하나 7. 고도의 자율 주행 차량의 소프트웨어와 기술은 운전자에게 갑자기 운전자 제어("비상 상황")의 필요성이 실질적으로 제거할 수 있도록 설계되어야 할 것이다. 효율적이고 안정적이며 안전한 인간과 기계간의 소통을 가능하게 하고 과부하를 방지하기 위해 시스템은 사람이 적응능력을 향상시킬 것을 요구하기보다 인간의 의사소통 행위에 더 적응해야 한다.18. 차량운영에서 자기학습되는 학습시스템과 중앙시과인리오데이터베이스의 연결은 이러한 시스템이 안전이익이 있을 경우 윤리적으로 허용될 수 있다. 자기학습시스템은 차량제어 관련 기능에 관한 안전요구사항을 충족하고 여기에 설정된 규칙을 저해하지 않는 한 구축해서는 안 된다. 허용시험을 포함해 적절한 보편적 자주를 개발하기 위해 관련 시과인리오를 중립기관의 중앙시과인리오 카탈로그에 전달하는 것이 적당하다.​ 하나 9. 비상 상황에서 차량은 자율적으로, 즉 사람의 도움 없이"안전한 상태"에 들어가야 할 것이다. 특히 안전한 조건의 정의 또는 이전(Handover) 루틴의 조화가 요망된다.​ 20. 자동화된 시스템의 적절한 사용의 비결은 사람들의 한반 디지털 교육의 일부분으로 구성해야 할 것이다. 자율주행 시스템의 올바른 사용 비결은 운전면허 시험 중에 적절한 방식으로 교육이 이뤄지고 테스트가 이뤄져야 한다.

>

IV. 토론 결과 및 해결되지 않은 문제 ​ 1위험 자결에서 자율 주행 시스템의 라이센스 1.1자율 주행의 분류 1.2증가하는 이동의 기회, 더 안전하지만, 완전 자율 운송 시스템의 남아 있는 위험 1.3딜레마 갈등 그이츄이에서 인간 선택의 자유 1.4딜레마 그이츄이 1.5최우선 순위를 위한 삶의 보호 1.6, 인간의 선택 없이 재생자의 상계 없이 피해의 최소화 원칙이 moning은 우선 순위를 가지고 있습니까?1.7, 자기 보호가 남의 보호는 자기 보호보다 먼저 2동물 복지에 대한 흥미 고려 3인간의 기각 4분할된 책이다의 경우의 기술 5완전 자율 운송 시스템 사용하기 위한 법적 요구 사항은?6운전자를 돕거나 안내하기 위한 기술 지원 시스템 7기술적인 시스템으로 돌이킬 수 없는 통제의 비리 8기술적인 시스템에 대한 사회 의존 9인프라"모든"연결성(Connectivity)10보안, 개인의 자율과 정보의 자결 사이의 데이터 활용 10.1충돌할 목적의 조정 10.2데이터 처리와 활용의 요구를 충족시키는 해결책 11소프트웨어와 인프라의 책이다 범위와 관련된 문제 11.1문제 11.2소프트웨어와 인프라를 위한 책을 어떻게 회피하고 분리하는가?11.3자기 학습 시스템은 어느 정도까지 구현될 수 있는가?

>

새치기 어렵게 여기까지 오셨어요. 독일에서 작성된 문서라서 원문은 원래 독일어죠? 제가 능력이 뛰어나서 독일어까지 말할 수 있으면 좋겠지만 영어도 힘드니까 영어판을 참고했습니다. 영어판과 독일어판 사이에 뉘앙스의 차이는 있는 것 같아요.윤리적규칙을읽다보면제가들어와서말씀드린것처럼인간의가운데있을때각정세에가까워진것이느껴집니다. 총 20개의 윤리 규칙을 통해서 자율 주행 자동차 개발에 필요하다고 건의하는 가장 하찮게 원칙을 정리했다고 타이르겠습니다. 자율주행차는 인간보다 더 안전한 경우에만 필요하고 위험. 정세에서 인간의 생명을 최우선으로 지키고, 문재정세에 있어 개인의 특징은 구별하지 않는 문재발생시책입니다. 소재를반드시하기위한문서작업과보관을필수로하고,운전데이터공유는운전자결정에따라서만허용한다는것이주된이야기인것같습니다.위와 같다면, 아마 개발·운용 회사에서는 머리가 아플 것 같습니다. 안전을 최우선으로 하는 것은 당연하지만 그 밖의 책들입니다. 소재나데이터공유등의문재를해결하기위해많은이해당사자들이존재하기때문에누군가의노력으로는불가능하다고생각됩니다. 그리고 여기에서 다시 한번 소프트웨어의 중요성에 대해 설명합니다. 자율주행의 윤리적 문재에 접근할 때 소프트웨어를 타이핑하지 않을 수 없죠. 소프트웨어를 작성할 때 어떤 기준으로 만들어졌느냐에 따라 자율주행차의 정세판단 결정이 내려지기 때문입니다. 이러한 이유로 윤리적 기준은 확실히 필요하다고 의견합니다. 고로 윤리 규칙에도 프로그래밍의 지침이 필요하다고 언급하고 있습니다.저는 이 문서를 자율주행 윤리 선언이라고 요약했는데요. 이를 통해 모든 문재를 해결할 수는 없습니다. 해결하지 않은 문재부터 설명하자면, 트롤리 딜레마에 대한 대답은 피해 가는 것 같았습니다. (제 개인적인 의견에 정답은 없는 문재이기 때문에...)자율주행차라는 로봇에 인간의 생명을 최우선으로 하는 윤리적인 문재를 정의하므로 앞으로 발생할 수 있는 문재의 기준을 마련할 수 있다는 데 의미를 두고자 합니다.

>

해당 문서의 영문판을 아래에 첨부합니다. 혹시 읽기 버전이 필요하신 분 계시면 연락주세요. 보내드리겠습니다

이리하여 비교하고 시주로 앞서고 언급한 오메리카의 'AUTOMATED DRIVING SYSTEMS-A Vision for Safety 2.0'을 정리한 글도 이하의 연결합니다. 각자 읽어보면 차이를 느낄 수 있을 것 같아요.

자율 주행 차의 대표적인 윤리 문재인 트롤리 딜레마에 관한 글도 소개할게요.

Over the Vehicle!!!참고 자료