『이것이 기술윤리다』는 하이데거의 ‘기술에 대한 물음’에서부터 트랜스/포스트휴머니즘 논의까지 아우르는 광범위한 기술철학·과학기술학(STS) 담론을 바탕으로, 기술의 본질과 역할에 대한 논의에 폭넓게 접근한다. 저자 스벤 뉘홀름은 윤리학 전공자답게 서구의 칸트 윤리학, 공리주의, 덕 윤리, 계약주의 등의 주요 규범 윤리 이론의 핵심 지식을 제공하는 것은 물론이고, 남아프리카 우분투(Ubuntu) 윤리나 동아시아 유교 윤리까지 포섭하여 다양한 문화권과 전통이 기술윤리에 제공하는 통찰을 조화롭게 엮어낸다. 또한 반성적 평형, 트롤리 문제 유비, 윤리 가이드라인 설정, 전통 윤리 이론의 적용 등 기존 입문서들에서 흔히 다루지 않았던 기술윤리의 다양한 방법론을 소개함으로써, 단일한 접근법으로는 포착하기 어려운 복잡한 문제에 유연하게 대처할 수 있는 사고 틀을 제공한다. 기술윤리에 처음 입문하는 교양 독자부터, 심화 연구를 희망하는 대학원생과 연구자까지 폭넓은 독자층을 만족시킬 수 있는 안내서인 『이것이 기술윤리다』는 주요 개념과 내용을 중간중간 요약ㆍ정리하는 친절한 서술 방식, 특정 주장이나 이론의 출처와 학자를 명확히 밝히는 본문, 그리고 각 장 말미의 주석 달린 참고문헌은 독자가 길을 잃지 않고 스스로 탐구를 이어갈 수 있는 발판을 제공한다. 나아가 이 책은 기술윤리의 문제를 다룸에 있어 단순히 어떤 기술이 허용되고 금지되어야 하는지의 좁은 논의를 넘어서, 우리가 추구하는 좋은 삶과 더 훌륭한 인간이라는 목적을 이루는 데 기술이 어떻게 기여하고 또 방해물이 될 수 있는지의 문제까지 깊이 다룬다. 이 책은 인공지능 시대를 살아가고 있는 모든 독자에게 기술윤리의 핵심 쟁점을 명료하게 제시하고, 더 윤리적인 미래를 향한 여정에 든든한 나침반이 되어줄 것이다.

저자 : 스벤 뉘홀름 지은이 스벤 뉘홀름 Sven Nyholm 뮌헨 루트비히 막시밀리안 대학교(LMU) 철학·과학철학·종교학 학부의 인공지능 윤리학 전공 교수다. 인간 두뇌 프로젝트의 윤리 자문 위원을 역임했으며, 현재 저널 Science and Engineering Ethics의 부편집장이다. 저서로는 Revisiting Kant’s Universal Law and Humanity Formulas(2015), Humans and Robots: Ethics, Agency, and Anthropomorphism(2020) 등이 있다. 주요 연구/교육 분야는 응용윤리, 실천철학, 기술철학 등이며 자율주행차, 로봇, 인공지능 등 신기술의 개발과 활용에 따르는 다양한 윤리적 문제들을 연구해 왔다. 역자 : 윤준식 옮긴이 윤준식 서울대학교 윤리교육과 강사로서 윤리학을 가르치고 있다. 한국교원대학교에서 일반사회교육과 윤리교육을 전공한 후 서울대학교 대학원 윤리교육과에서 칸트의 도덕적 진보 사상에 대한 연구로 석사학위 논문을, 기술적 도덕 향상에 대한 연구로 박사학위 논문을 썼다. 연구 분야는 생명/기술윤리, 규범윤리 및 윤리교육이며, 주요 논문으로는 “냄새의 윤리학: 〈기생충〉 속 냄새 혐오 문제에 대한 윤리학적 고찰”(2025), “인공지능을 활용한 도덕 향상에 대한 비판적 검토”(2024), “Biomedical Moral Enhancement for Psychopaths”(2024) 등이 있다. 역자 : 박형배 옮긴이 박형배 기술과 사람, 사회의 상호 관계에 관심이 많다. 런던 정경대(LSE)에서 경제학과 수학을 전공한 이후 유니버시티 칼리지 런던(UCL)에서 인간-컴퓨터 상호작용(HCI) 석사를 수료하였고, 골드스미스 대학에서 기술 철학 석사 과정을 졸업했다. 런던과 베를린 소재 IT 스타트업에서 경험을 쌓고, 영국 정부 내각실 산하 Government Digital Service에서 정부기관을 대상으로 디지털 서비스를 기획했다. 현재 도쿄 Digital Architecture Lab에서 최신 기술 동향을 리서치하고 콘텐츠를 기획하고 있으며, 〈AI 윤리레터〉를 통해 인공지능 윤리 관련 소식을 전하고 있다.

감사의 말 5 한국어판 서문 8 서문 14 1. 윤리적 관점에서 기술이란 무엇인가? 1.1 검은 숲의 오두막 29 1.2 기술에 대한 물음: 마르틴 하이데거에서 조안나 브라이슨에 이르는 도구적 기술 이론 33 1.3 ‘포스트현상학’과 기술 매개 이론 39 1.4 단순한 수단이나 도구 이상으로 생각되는 기술 46 1.5 도덕적 행위자로 간주되는 기술 49 1.6 도덕적 피동자로 간주되는 기술 53 1.7 이후 더 자세히 논의될 몇 가지 주요 기술 유형 57 * 주석 달린 참고문헌 65 2. 윤리란, 특히 기술윤리란 무엇인가? 2.1 두 개의 캠페인 67 2.2 고대 그리스의 덕과 인간 번영의 윤리학 72 2.3 고대 중국의 유가 윤리와 남아프리카의 전통 우분투 윤리 78 2.4 칸트 윤리학 85 2.5 공리주의와 결과주의 윤리 이론 89 2.6 일반적으로 윤리가 이전 절에서 논의된 모든 것을 포괄한다면, 과연 윤리가 특별히 기술윤리와 관련해 지니는 의미는 무엇일까? 96 2.7 어떻게 기술윤리는 더 일반적인 윤리 이론의 확장에 도전하고 그 필요를 창출할 수 있는가 100 * 주석 달린 참고문헌 104 3. 기술윤리의 방법: 사례 연구로서 자율주행차의 윤리 3.1 윤리학 방법론? 105 3.2 자율주행차의 윤리 108 3.3 위원회의 윤리 지침 113 3.4 유비를 통한 윤리: 트롤리 문제와의 비교 116 3.5 경험윤리 120 3.6 전통적인 윤리 이론의 적용 126 3.7 기술윤리를 위해 우리는 어떤 방법을 사용해야 하는가? 오직 한 가지 방법? 아니면 여러 방법? 135 * 주석 달린 참고문헌 141 4. 인공지능, 가치 정렬, 그리고 통제 문제 4.1 핵전쟁 회피 사례 143 4.2 인공지능은 무엇이며 가치 정렬이란 또 무엇인가? 147 4.3 좋거나 나쁜, 그리고 도구적이거나 비도구적인 가치와 원칙들 153 4.4 도구적으로 긍정적인 가치 정렬 157 4.5 도구적으로 부정적인 가치 오정렬 160 4.6 비도구적으로 긍정적인 가치 정렬 164 4.7 비도구적으로 부정적인 가치 오정렬 169 4.8 통제 문제 172 4.9 가치로서의 통제: 도구적 또는 비도구적? 통제하려고 해서는 안 되는 기술도 존재할까? 178 * 주석 달린 참고문헌 182 5. 행동 변화 기술, 게임화, 개인 자율성, 그리고 통제의 가치 5.1 더 나은 나? 184 5.2 행동 변화 기술과 게임화 188 5.3 통제에 관한 세 가지 관찰 193 5.4 다양한 철학 분야에서 논의된 통제의 핵심적 차원들 196 5.5 행동 변화 기술 그리고 통제 ‘주체’와 통제 ‘대상’ 201 5.6 통제의 가치와 윤리적 중요성 216 5.7 이 장의 결론 212 * 주석 달린 참고문헌 214 6. 책임과 기술: 틈을 조심하라고? 6.1 두 사건 216 6.2 책임이란 무엇인가? 사람들이 책임을 지게 되는 다양한 방식과 대상들 220 6.3 책임 공백: 개요 225 6.4 기술로 인한 책임 공백 231 6.5 자발적 책임을 통한 책임 공백 메우기 238 6.6 책임 공백을 환영해야 할까? 241 6.7 책임질 수 있는 기계? 246 6.8 인간-기계의 협동 그리고 책임 253 6.9 이 장의 결론 257 * 주석 달린 참고문헌 258 7. 기계는 도덕적 행위자가 될 수 있을까? 모든 기계는 도덕적 행위자가 되어야 할까? 7.1 기계윤리 260 7.2 기계윤리를 지지하는 논증과 인공적 도덕 행위자의 유형 264 7.3 기계윤리 프로젝트에 대한 반론 268 7.4 기계윤리 프로젝트 비판에 대응할 수 있는 방법들 283 7.5 이 장의 결론 293 * 주석 달린 참고문헌 295 8. 로봇은 도덕적 지위를 지닌 도덕적 피동자가 될 수 있는가? 8.1 테슬라봇과 에리카 297 8.2 휴머노이드 로봇이란 무엇인가? 왜 사람들은 휴머노이드 로봇을 만들고자 하는가? 303 8.3 사람들이 로봇에 대해 옳거나 그르게 행동하는 것은 가능한가? 310 8.4 로봇은 도덕과 관련된 속성 혹은 능력을 지닐 수 있는가? 314 8.5 로봇은 도덕과 관련된 속성 혹은 능력을 모방하거나 흉내 낼 수 있는가? 321 8.6 로봇은 도덕과 관련된 속성 혹은 능력을 표상하거나 상징할 수 있는가? 326 8.7 우리는 로봇이 도덕적 지위를 갖는 도덕적 피동자일 수 있는지에 대해 논의해야만 하는가, 아니면 그러지 않는 편이 더 나은가? 334 * 주석 달린 참고문헌 342 9. 친구, 연인, 동료로서의 기술 9.1 레플리카, 척, 하모니 그리고 부머 345 9.2 친구, 연인, 동료서의 기술과는 독립적인 맥락에서 발생하는 윤리적 쟁점들 349 9.3 친구로서의 기술 354 9.4 연인 혹은 연애 파트너로서의 기술 359 9.5 로봇 동료 367 9.6 모 아니면 도? 다양한 관점에 대한 존중 373 9.7 기술이 열어 갈 관계의 미래 377 * 주석 달린 참고문헌 382 10. 기계와의 융합: 인간-기술 관계의 미래 10.1 경험 기계 384 10.2 다양한 기술과의, 혹은 기술의 도움을 받은 융합 방식 390 10.3 트랜스휴머니즘과 포스트휴머니즘: 우리는 사이보그가 되어야 하는가, 혹은 이미 사이보그인가? 395 10.4 기술과의 융합에 대한 비판적 성찰 401 10.5 결론을 내리며: 검은 숲의 오두막 다시 방문하기 408 * 주석 달린 참고문헌 417 역자 후기 419 색인 425

만약 전쟁이 자율무기체계와 같은 기술에 아웃소싱되어 인간이 더 이상 군인의 역할을 수행할 필요가 없게 된다면, 전쟁 윤리와 관련된 여러 전통적인 생각은 근본적으로 뒤흔들릴 것이다. 앞서 언급한 것처럼, 자율적인 군사용 기술은 전쟁 중 사망한 자들에 대한 책임 및 누가 그 책임을 져야 하는지에 대한 기존의 윤리적 생각에 도전할 것이다. 일반적으로 생사를 결정하는 그 어떤 자율 기술도 도덕적 책임에 대한 우리의 생각을 재고해야 하는지, 도덕적 행위자가 된다는 것이 무엇을 의미하는지에 대한 수많은 질문을 피할 수 없다. (71쪽)

기술윤리에서 전통적 윤리 이론을 활용할 때 발생할 수 있는 한 가지 중요한 문제는 그러한 전통적 윤리 이론이 현대 기술이 개발되기 전에 발전되었다는 것이다. 주요 윤리 이론들은 로봇이나 인공지능, 소셜미디어, 뇌 임플란트 및 도덕적 측면에서 혼란을 초래할 수 있는 새로운 기술이 존재하기 전에 발전되었다. 즉 인간-기계 상호작용이 아니라 인간-인간 상호작용을 염두에 두고 발전되었다는 것이다. 따라서 윤리의 오랜 역사에서 인간-인간 상호작용의 윤리를 위해 만들어진 생각이 우리 사회의 점점 더 증가하는 인간-기술 상호작용에 자연스럽게 적용될 수 있다는 보장은 없다. (100쪽)

공리주의 윤리에서 배울 수 있는 교훈은 자율주행차의 충돌 방식에 대해 우리가 생각할 때 무엇이 전체적인 좋음 및 모두의 행복에 최선인가에 대해 일부 고려해야 한다는 것이다. 칸트 윤리학에서 얻을 수 있는 교훈은 모두에게 동일하게 적용되는 보편 법칙으로 우리가 의욕할 수 있는 규칙을 선택해야 한다는 것이다. 이로써 모든 것에 대한 공정성이 확보되고, 누군가에게 정당화되지 않은 이점을 제공하는 것을 방지할 수 있다. 유가 윤리에서 얻을 수 있는 교훈은 자율주행차가 사회적 조화를 촉진하는 방식으로 프로그램되어야 한다는 것이다. 그리고 우분투 윤리에서 얻을 수 있는 교훈은 자율주행차가 사람들 각자의 인간성이 증진될 수 있는 관계 맺음 방식과 일관되도록 프로그램되어야 한다는 것이다. 이 맥락에서 그것이 의미하는 바가 무엇이든 말이다. 이 모든 생각들을 한데 모으면, 인간 사회에 기술을 도입하는 방법에 대한 일반적이고 더 고차원적인 이상을 형성할 수 있을 것이다. (133쪽)

즉, AI 시스템은 인간이 직접 통제하기 때문에 안전하지 않을 수도 있고, 인간이 직접 통제하지 않기 때문에 안전하지 않을 수도 있다. 따라서 통제 문제에 대한 완전한 해결책 같은 것은 존재하지 않을 수 있다는 것이 얌폴스키의 주장이다. (178쪽)

우리에게 필요한 것은 단지 인간 주위에 있어도 ‘안전한’ 기계일 뿐이다. 그들의 관점에서 인공적 도덕 행위자를 만들어 내려는 노력은 우리 자신의 행위에 대한 책임으로부터 벗어나기 위한 시도의 일환이다. 우리는 도덕적인 기계를 만들어 내고 이러한 기계들에게 벌어지는 일에 대한 책임을 외주하려고 해서는 안 된다. 대신에 우리는 인간에게 혜택을 주고 해를 끼치지 않는 안전한 기계, 더 일반적으로는 안전한 기술을 만들고자 노력해야 한다. 이러한 입장은 기계윤리가 때때로 직면하게 되는 비판적인 반응의 한 예다. (271~272쪽)

윤리적 판단이 어느 때보다 중요해진 첨단 기술의 시대 인간 선택과 책임에 대한 철학 나침반 윤리적 판단을 요구하는 첨단 기술들 제대로 된 윤리적 검토가 필요하다! 자율주행차, 추천 알고리즘과 행동 변화 기술, 표적을 스스로 선정하는 킬러로봇, 인간과 감정적 유대를 형성하는 섹스로봇, 이 모든 것을 현실화하는 여러 층위의 인공지능 기술들. 오늘날 또는 가까운 미래에 등장할 다양한 인공지능 및 로봇 기술은 인류의 가치관과 사회 구조, 그리고 공동체의 미래를 예전과 비교할 수 없는 수준으로 변화시켜 왔고 또 재편할 것이다. 인간 역사와 함께 발전해 온 기술은 이제 단순한 ‘도구’를 넘어 스스로 의사결정을 내리는 ‘행위자’로 부상하고 있다. 다양한 기술이 개인과 사회에 미치는 긍정적 ㆍ 부정적 영향에 대한 윤리적 검토가 요청되는 시점이다. 때마침 이러한 시대적 요구에 응답하는 책 『이것이 기술윤리다』가 번역되었다. 기술윤리 분야에 풍부한 경험을 갖춘 인공지능 윤리 전공 교수와 함께하는 기술윤리학 입문 『이것이 기술윤리다』는 세계적인 학술출판사 와일리블랙웰(Wiley-Blackwell)의 ‘This Is Philosophy’ 시리즈 중 하나인 『This Is Technology Ethics: An Introduction』(2023)의 한국어 완역본이다. 저자 스벤 뉘홀름(Sven Nyholm)은 독일 뮌헨 루트비히 막시밀리안 대학교(LMU) 철학ㆍ과학철학ㆍ종교학 학부 소속의 AI윤리 전공 교수로, 인간 두뇌 프로젝트의 윤리 자문 위원을 역임하고, 현재 『Science and Engineering Ethics』 저널의 부편집장으로 활동하는 등 기술윤리에 대한 풍부한 경험을 갖추고 있는 인물이다. 칸트 윤리학에 대한 연구로 철학 박사학위논문을 받은 후, 인공지능, 로봇, 자율주행차 등 신기술의 윤리적 쟁점을 폭넓게 다뤄온 그는, 인간과 기술이 협력적 관계를 형성할 수 있음을 강조하며 기술윤리 분야에 독창적이고 실천적인 관점을 제시해 왔다. 기술윤리에 대한 탄탄한 이론적 토대와 다원적 접근 『이것이 기술윤리다』는 하이데거의 ‘기술에 대한 물음’에서부터 트랜스/포스트휴머니즘 논의까지 아우르는 광범위한 기술철학·과학기술학(STS) 담론을 바탕으로, 기술의 본질과 역할에 대한 논의에 폭넓게 접근한다. 스벤 뉘홀름은 윤리학 전공자답게 서구의 칸트 윤리학, 공리주의, 덕 윤리, 계약주의 등의 주요 규범 윤리 이론의 핵심 지식을 제공하는 것은 물론이고, 남아프리카 우분투(Ubuntu) 윤리나 동아시아 유교 윤리까지 포섭하여 다양한 문화권과 전통이 기술윤리에 제공하는 통찰을 조화롭게 엮어낸다. 또한 반성적 평형, 트롤리 문제 유비, 윤리 가이드라인 설정, 전통 윤리 이론의 적용 등 기존 입문서들에서 흔히 다루지 않았던 기술윤리의 다양한 방법론을 소개함으로써, 단일한 접근법으로는 포착하기 어려운 복잡한 문제에 유연하게 대처할 수 있는 사고 틀을 제공한다. 개념과 사례, 논쟁과 맥락을 아우르는 기술윤리에 대한 종합 안내서 이 책은 인공지능 시대의 윤리 문제를 단순히 추상적 개념으로 소개하는 데 그치지 않고, 구체적 사례와 역사적·사회적 맥락 속에서 다각도로 분석한다. 자율주행차가 불가피한 충돌 상황에서 어떤 선택을 해야 하는지, 알고리즘 편향이 어떻게 불평등을 재생산하는지, 로봇에게 도덕적 지위를 인정할 수 있는지를 논하며 제시되는 사례들은 오랜 철학적 논쟁, 제도적 변화, 문화적 차이를 반영한 복합적 현상으로 묘사된다. 특히 기술적 행위자와 인간 행위자 사이의 책임 귀속 및 관계 설정의 문제에서 저자가 제안하는 협력 모델은 인간의 책임을 간과하지 않으면서도 기술과의 조화로운 관계란 무엇인지에 대한 실천적인 통찰을 제공한다. 이를 통해 독자들은 과거와 현재, 지역 특수성과 세계적 보편성을 아우르며 기술윤리 문제의 복잡성을 종합적으로 파악할 수 있다. 다양한 독자층에 유용한 친절하고 명료하면서도 깊이 있는 입문서 『이것이 기술윤리다』는 기술윤리에 처음 입문하는 교양 독자부터, 심화 연구를 희망하는 대학원생과 연구자까지 폭넓은 독자층을 만족시킬 수 있는 안내서다. 주요 개념과 내용을 중간중간 요약ㆍ정리하는 친절한 서술 방식, 특정 주장이나 이론의 출처와 학자를 명확히 밝히는 본문, 그리고 각 장 말미의 주석 달린 참고문헌은 독자가 길을 잃지 않고 스스로 탐구를 이어갈 수 있는 발판을 제공한다. 더욱이 이 책은 기술윤리의 문제가 단순히 어떤 기술이 허용되고 금지되어야 하는지의 좁은 논의를 넘어서 우리가 추구하는 좋은 삶, 더 훌륭한 인간과 같은 목적을 이루는 데 기술이 어떻게 기여하고 또 방해물이 될 수 있는지의 문제까지 깊이 다룬다. ‘기술’과 더불어 기술을 사용하고 기술을 통해 변화하는 우리 ‘인간’에 대해 고민하며 독자들은 기술과 윤리, 나아가 우리 삶의 목적에 대해 통찰할 수 있는 기회를 얻게 될 것이다. 인공지능 시대에 제대로 된 윤리적 나침반 미래 사회에서 인간과 기술의 결합은 한층 더 긴밀해질 것이며, 우리는 이미 어느 정도 ‘사이보그적’ 존재라고 할 수도 있다. 기술이 점점 더 정교하고 강력해질수록, 인공지능이 우리 삶에 더 깊숙이 스며들수록 우리는 어떤 기술을 개발하고 어디까지 허용할 것인지, 그 과정에서 어떤 윤리적·사회적 가치와 책임을 우선해야 하는지를 재검토해야 한다. 『이것이 기술윤리다』는 바로 이러한 근본적 물음을 철학적 깊이와 실천적 관점에서 다루며, 기술과 인간이 상호 이해와 협력을 바탕으로 번영할 수 있는 미래를 모색한다. 이 책은 인공지능 시대를 살아가고 있는 모든 독자에게 기술윤리의 핵심 쟁점을 명료하게 제시하고, 더 윤리적인 미래를 향한 여정에 든든한 나침반이 되어줄 것이다.