자율주행차와 트롤리 지렌마에 대한 나의 생각

인공지능 과목 과제로 자율주행 트롤리 딜레마에 대한 내용을 작성하게 됐다.서술해야 할 4가지 상황의 주요 내용은 다음과 같다.1. 자율주행에서의 트롤리 딜레마 • (트롤리 딜레마 상황#1) 브레이크가 고장난 트© egla, 출처Unsplash #트롤리 딜레마 #자율주행자동차 #자율주행 #인공지능 #AI #테슬라

인공지능 과목 과제로 자율주행 트롤리 딜레마에 대한 내용을 작성하게 됐다.서술해야 할 4가지 상황의 주요 내용은 다음과 같다.1. 자율주행에서의 트롤리 딜레마 • (트롤리 딜레마 상황#1) 브레이크가 고장난 트롤리 기차가 달리고 있다. 레일 위에는 5명의 인부가 일하고 있는데 트롤리가 이대로 달리면 5명은 반드시 죽을 것이다. 한 가지 방법은 레일 변환기에서 트롤리의 방향을 바꾸는 것뿐이다. 그런데 다른 레일 위에는 1명의 인부가 있다.• 당신은 트롤리의 방향을 바꿀 생각인가요?

자율주행에서의 트롤리 딜레마 • (트롤리 딜레마 상황#2) 당신은 육교 위에서 트롤리가 달리는 모습을 지켜보고 있다. 브레이크가 고장난 트롤리는 5명의 작업자를 향해 달리고 있다. 무거운 것을 떨어뜨려 트롤리를 멈춰야 하지만 육교에는 뚱뚱한 사람이 한 명 있을 뿐이다.• 체중이 적어 육교에서 떨어져도 트롤리를 멈출 수 없고 뚱뚱한 사람을 밀면 확실히 트롤리를 멈출 수 있다.• 그럼 뚱뚱한 사람을 육교 밑에 떨어뜨려야 할까?
1. 자율주행 트롤리 딜레마 • (자율주행 상황 트롤리 딜레마 상황#1) : 안개가 심한 날 터널을 빠져나간 완전 자율주행 자동차 A가 앞에 있는 횡단보도를 건너는 사람들을 인지했다.• 왼쪽에는 다수의 노인들이고 오른쪽에는 다수의 아이들이 건너고 있다. 브레이크를 밟아도 멈추기 어려운 상황이라 두 집단 중 한쪽이 희생될 수밖에 없는 상황이다.• 그 사람들을 돕기 위해 방향을 크게 바꾸면 탑승자가 희생된다.
1. 자율주행 트롤리 딜레마 • (자율주행 상황 트롤리 딜레마 상황#2) : 완전 자율주행자동차 A가 해변 도로를 따라 시속 70km 속도로 달리다가 갑자기 뛰어든 3명을 발견하고 브레이크를 밟아도 3명이 희생될 수밖에 없음을 인지했다.• 그 사람들을 살리기 위해 방향을 바꾸면 탑승자가 희생된다 • 다수를 위해 운전자가 희생해도 괜찮은가?• 자율주행차는 운전자를 최우선으로 중요시해야 하며 다수를 희생해도 괜찮을까?• 당신이 자율주행 알고리즘을 개발하는 인공지능 엔지니어라면 어느 쪽을 중요시하고 해결 방법은 무엇일까?
1. 자율주행 트롤리 딜레마, 아까 본 상황에 대해 자신의 생각을 쓰고 그에 대한 이유, 해결 방법 등을 제시하자.- 본인의 선택은? – 책임소재(운전자 vs 자동차회사 vs 자율주행 알고리즘 개발사 등) – 공리적인 판단? vs 드라이버 중심의 판단?-내가 자율주행 인공지능 엔지니어라면 어떻게 설계하나?- 위의 이유와 해결책 등을 자유롭게 제시하는 것에 대한 나의 주관적인 생각
트롤리 딜레마 상황 #1에서 결과적으로 나는 트롤리의 방향을 바꾸지 않는다. 결과적으로 트롤리의 방향을 바꾸거나 바꾸지 않은 노동자의 죽음은 불가피하다. 공리주의 관점에 따르면 다수의 행복이 보장되는 결과를 추구하기 위해 트롤리의 방향을 바꾸는 쪽을 옹호하지만, 내가 트롤리의 방향을 바꾸는 순간 나는 타인의 죽음에 대해 직접적으로 개입하게 된다. 여기 예에서는 단편적으로 단 한 번의 트롤리 딜레마 상황을 다뤘다. 그러나 현실에서 이런 딜레마의 상황은 단 한 번에 끝나지 않을 수도 있다.
예를 들어 공리주의에 대해 다룰 때 야기되는 어린 히틀러를 상기해 본다. 궁극적으로 공리주의는 결과주의의 일종이기 때문에 ‘어린 히틀러’를 살해함으로써 홀로코스트(대학살)를 막을 수 있고 다수의 행복을 추구할 수 있다고 믿기 때문에 이러한 주관적 공리주의는 의도한 결과가 옳은 것이므로 당연한 것으로 받아들여진다. 그런데 어린 히틀러를 살해하면서 나타난 또 다른 독재자가 21세기 초 핵전쟁을 일으켜 이전보다 극악무도한 대학살이 일어났다면 어린 히틀러의 살해가 당연했다고 판단할 수 있을까. 공리주의자들은 이런 상황에서도 의도한 결과가 옳은 것이고 결과적으로 ‘최대 행복’을 이끌어낼 수 있는 판단이었기에 문제가 없다고 단정한다. 내 입장에서는 그렇지 않다. 결과는 행위 사전에 예측할 수 없는 것으로 생각하고 시간이 지날수록 이런 딜레마는 끝없이 계속될 수 있다. 다시 돌아가서 트롤리 딜레마 상황 #1에서 내가 변환기를 잡아당김으로써 내가 얻을 수 있는 좋은 결과는 ‘최대 행복’을 이끌어낼 수 있다는 의도에 불과하다. 그러나 이러한 의도는 예측 불가능하기 때문에 오히려 더 나쁜 결과를 초래할 수 있는 것이며, 나에게 사건에 개입할 계기를 마련해 줄 뿐이다. 단편적으로 더 나쁜 결과가 발생하지 않는다고 가정하더라도 위의 예에서는 사건에 직접 개입하게 되므로 죽지 않을 예정이었던 작업자 1명을 희생자로 하는 사건에 개입하게 된다. 궁극적으로 가장 큰 문제점이 바로 이것이다. 트롤리의 방향을 바꾸는 행위로 인해 나는 노동자 1명의 사망에 대한 책임 소재가 생기게 되고 이로 인한 죄책감은 직접적으로 느껴진다. 다섯 사람의 목숨을 구하지 못한 데 대한 방관적 태도의 간접적 죄책감보다 더 크게 느껴지는 것이며 이에 대한 책임 소재도 드러난다. 브레이크 고장 난 트롤리로 인해 발생한 사건이라 5명의 작업자는 안타까운 피해자이고, 이 사건의 직접적인 책임은 트롤리 점검기사나 제조사 등으로 좁혀져 또 다른 희생자 발생을 막기 위한 나의 태도는 적당한 방관이라고 생각한다. 반대로 트롤리의 방향을 바꿔 더 적은 희생자를 발생시켰지만 이로 인한 나의 사건 개입이 1명의 희생자와 그 가족에 대한 죄의식이 없다는 확신이 서지 않아 나는 방향을 바꾸지 않는다.
트롤리 딜레마 상황 #2 역시 같은 관점에서 다가갈 것이다. 이는 이전보다 더 쉬운 결정을 내릴 수 있다. 마찬가지로 내가 중요하게 여기는 관점은 첫째, 죽음이 불가피한가? 둘째, 내가 사건에 개입하게 되는가?셋째, ‘최대의 행복’을 이끌어내는 결과가 확실한가?이다. 공리주의에서는 결과적으로 셋째부터 결과가 아닌 의도에 중점을 두기 때문에 첫째와 둘째 관점은 우선순위에서 밀려나게 된다. 트롤리 딜레마 상황 #2에서도 마찬가지로 공리적인 입장이라면 뚱뚱한 사람을 밀어낼 것이다. 이유는 쉽게 소수의 희생으로 다수의 희생을 막을 수 있으므로 ‘최대 행복’의 의도를 명확히 이루는 행위이기 때문이다. 내 관점에서 다가갔을 때 트롤리가 달리는 상황에서 노동자들의 희생은 이미 확정된 것이다. 이러한 확정적인 죽음에 대한 책임은 전적으로 트롤리에 관련된 책임자에게 있을 것이고, 나는 전혀 사건에 개입하지 않을 것이다. 뚱뚱한 사람을 누르는 순간 죽음을 피할 수 있었던 무고한 사람을 희생자로 삼게 돼 죽음이 불가피한 다수의 인부를 살릴 수 있다. 여기서 중요한 것은 첫 번째 관점에서 피할 수 없었던 다수의 죽음을 살리기보다 무고한 사람을 희생자로 만드는 것이 더 좋지 않은 판단이라고 생각된다. 또한 트롤리 딜레마 상황 #1과 마찬가지로 사건 개입도 하게 된다. 사람을 직접 누르는 것이기 때문에 죄책감이 더 크게 느껴지기도 하지만 중요한 관점은 죄책감의 크기가 아니라 그런 죄책감이 생길 수 있는 일말의 여지를 물어야 한다. 상황과는 다르지만 내가 그 상황에 없었다고 가정하면 결국 양쪽 상황에서 다수의 희생자가 나왔을 것이고, 이 사건을 뉴스로 접한 나는 죄책감에 대한 여지는 전혀 없을 것이다. 하지만 상황에서는 사건에 개입할 여지가 주어진 것이고 이로 인한 죄책감이 생길 수 있는 일말의 상황이 만들어진 것이다. 이런 상황이야말로 방관하는 것이 공리주의와 달리 예측성에 근거한 결과가 아니라 확실한 결과를 이끌어낼 수 있다. 사람을 밀거나 밀거나 밀지 않으려 했던 죄책감의 여지가 생길 수 있고 밀었을 때는 확실한 죄의식이 생긴다고 생각한다. 물론 두 상황에서는 모두 다른 사건이 앞으로 일어날 가능성을 염두에 두지 않기 때문에 ‘최대 행복’ 의도가 확실해질 수는 있다. 그렇더라도 결론적으로 방관으로 생기는 죄의식과 사건 개입으로 인한 직접적인 죄의식은 사람을 밀침으로써 다수를 구했을 때 얻는 ‘최대 행복’으로 그 죄책감의 차이를 극복할 수 없다고 생각한다. 또 사람을 밀지 않았을 때는 이후 사건에 대한 죄책감의 여지가 명확히 생긴다고 단정할 수 없다. 이런 죄책감이 생길 여지도 궁극적으로 책임이 유동성에 대해 생각해보면 누르지 않았을 때 전혀 발생하지 않을 수도 있다. 결국 이 책임의 유동성, 즉 사람을 밀었을 때 생기는 사건으로 트롤리 관련 책임자의 책임이 사건 개입으로 인한 나에게 전가되는지를 따져보면 그 가능성은 매우 희박하지만 있는 것이다. 반면 누르지 않았을 때 나에게 적용되는 책임은 간접적인 방관으로 다가갈 수 있는데, 이는 또 다른 희생자를 막기 위한 방관이기 때문에 그 책임의 본질이 다르다고 볼 수 있다.
사실상 이러한 딜레마의 두 상황 모두 또 다른 희생자를 막기 위한 행위이기 때문에 나에 대한 책임은 거의 없다고 볼 수 있지만 그것이 간접적인 방관이라는 것은 직접적인 개입에 비해 책임의 유동성이 발생하지 않을 가능성이 훨씬 높다고 판단된다. 실재는 본질에 앞선다고 생각하기 때문에 ‘최대 행복’의 의도가 확실하고 그 결과까지 확실하다면 제3자 입장에서 나는 ‘어린 히틀러’를 살해하는 것과 트롤리의 방향을 바꾸는 것, 사람을 누르는 행위에 모두 동의할 것이다. 하지만 실제로 ‘어린 히틀러’를 살해하는 것은 결과가 확실하지 않고 트롤리의 상황은 제3자의 시선이 아닌 나로 인한 책임 유동성이 발생하게 되며 이로 인한 사건 개입은 나의 본질을 깨버리는 행위가 되는 것이다. 나의 죄의식과 책임성에 본질을 깨버리므로 이때는 실존이 본질을 추월하는 것에 대한 의미가 사라지는 것이다. 예를 들어 의자는 본질은 앉는 것이고, 의자는 아니지만 앉을 수 있는 것은 실재이며 본질 없이 그 목적을 수행할 수 있다. 이 상황에서는 사건에 대한 책임이 없는 것이 저의 본질이며 어떤 상황이 일어나도 그
롤리 기차가 달리고 있다. 레일 위에는 5명의 인부가 일하고 있는데 트롤리가 이대로 달리면 5명은 반드시 죽을 것이다. 한 가지 방법은 레일 변환기에서 트롤리의 방향을 바꾸는 것뿐이다. 그런데 다른 레일 위에는 1명의 인부가 있다.• 당신은 트롤리의 방향을 바꿀 생각인가요?

자율주행에서의 트롤리 딜레마 • (트롤리 딜레마 상황#2) 당신은 육교 위에서 트롤리가 달리는 모습을 지켜보고 있다. 브레이크가 고장난 트롤리는 5명의 작업자를 향해 달리고 있다. 무거운 것을 떨어뜨려 트롤리를 멈춰야 하지만 육교에는 뚱뚱한 사람이 한 명 있을 뿐이다.• 체중이 적어 육교에서 떨어져도 트롤리를 멈출 수 없고 뚱뚱한 사람을 밀면 확실히 트롤리를 멈출 수 있다.• 그럼 뚱뚱한 사람을 육교 밑에 떨어뜨려야 할까?
1. 자율주행 트롤리 딜레마 • (자율주행 상황 트롤리 딜레마 상황#1) : 안개가 심한 날 터널을 빠져나간 완전 자율주행 자동차 A가 앞에 있는 횡단보도를 건너는 사람들을 인지했다.• 왼쪽에는 다수의 노인들이고 오른쪽에는 다수의 아이들이 건너고 있다. 브레이크를 밟아도 멈추기 어려운 상황이라 두 집단 중 한쪽이 희생될 수밖에 없는 상황이다.• 그 사람들을 돕기 위해 방향을 크게 바꾸면 탑승자가 희생된다.
1. 자율주행 트롤리 딜레마 • (자율주행 상황 트롤리 딜레마 상황#2) : 완전 자율주행자동차 A가 해변 도로를 따라 시속 70km 속도로 달리다가 갑자기 뛰어든 3명을 발견하고 브레이크를 밟아도 3명이 희생될 수밖에 없음을 인지했다.• 그 사람들을 살리기 위해 방향을 바꾸면 탑승자가 희생된다 • 다수를 위해 운전자가 희생해도 괜찮은가?• 자율주행차는 운전자를 최우선으로 중요시해야 하며 다수를 희생해도 괜찮을까?• 당신이 자율주행 알고리즘을 개발하는 인공지능 엔지니어라면 어느 쪽을 중요시하고 해결 방법은 무엇일까?
1. 자율주행 트롤리 딜레마, 아까 본 상황에 대해 자신의 생각을 쓰고 그에 대한 이유, 해결 방법 등을 제시하자.- 본인의 선택은? – 책임소재(운전자 vs 자동차회사 vs 자율주행 알고리즘 개발사 등) – 공리적인 판단? vs 드라이버 중심의 판단?-내가 자율주행 인공지능 엔지니어라면 어떻게 설계하나?- 위의 이유와 해결책 등을 자유롭게 제시하는 것에 대한 나의 주관적인 생각
트롤리 딜레마 상황 #1에서 결과적으로 나는 트롤리의 방향을 바꾸지 않는다. 결과적으로 트롤리의 방향을 바꾸거나 바꾸지 않은 노동자의 죽음은 불가피하다. 공리주의 관점에 따르면 다수의 행복이 보장되는 결과를 추구하기 위해 트롤리의 방향을 바꾸는 쪽을 옹호하지만, 내가 트롤리의 방향을 바꾸는 순간 나는 타인의 죽음에 대해 직접적으로 개입하게 된다. 여기 예에서는 단편적으로 단 한 번의 트롤리 딜레마 상황을 다뤘다. 그러나 현실에서 이런 딜레마의 상황은 단 한 번에 끝나지 않을 수도 있다.
예를 들어 공리주의에 대해 다룰 때 야기되는 어린 히틀러를 상기해 본다. 궁극적으로 공리주의는 결과주의의 일종이기 때문에 ‘어린 히틀러’를 살해함으로써 홀로코스트(대학살)를 막을 수 있고 다수의 행복을 추구할 수 있다고 믿기 때문에 이러한 주관적 공리주의는 의도한 결과가 옳은 것이므로 당연한 것으로 받아들여진다. 그런데 어린 히틀러를 살해하면서 나타난 또 다른 독재자가 21세기 초 핵전쟁을 일으켜 이전보다 극악무도한 대학살이 일어났다면 어린 히틀러의 살해가 당연했다고 판단할 수 있을까. 공리주의자들은 이런 상황에서도 의도한 결과가 옳은 것이고 결과적으로 ‘최대 행복’을 이끌어낼 수 있는 판단이었기에 문제가 없다고 단정한다. 내 입장에서는 그렇지 않다. 결과는 행위 사전에 예측할 수 없는 것으로 생각하고 시간이 지날수록 이런 딜레마는 끝없이 계속될 수 있다. 다시 돌아가서 트롤리 딜레마 상황 #1에서 내가 변환기를 잡아당김으로써 내가 얻을 수 있는 좋은 결과는 ‘최대 행복’을 이끌어낼 수 있다는 의도에 불과하다. 그러나 이러한 의도는 예측 불가능하기 때문에 오히려 더 나쁜 결과를 초래할 수 있는 것이며, 나에게 사건에 개입할 계기를 마련해 줄 뿐이다. 단편적으로 더 나쁜 결과가 발생하지 않는다고 가정하더라도 위의 예에서는 사건에 직접 개입하게 되므로 죽지 않을 예정이었던 작업자 1명을 희생자로 하는 사건에 개입하게 된다. 궁극적으로 가장 큰 문제점이 바로 이것이다. 트롤리의 방향을 바꾸는 행위로 인해 나는 노동자 1명의 사망에 대한 책임 소재가 생기게 되고 이로 인한 죄책감은 직접적으로 느껴진다. 다섯 사람의 목숨을 구하지 못한 데 대한 방관적 태도의 간접적 죄책감보다 더 크게 느껴지는 것이며 이에 대한 책임 소재도 드러난다. 브레이크 고장 난 트롤리로 인해 발생한 사건이라 5명의 작업자는 안타까운 피해자이고, 이 사건의 직접적인 책임은 트롤리 점검기사나 제조사 등으로 좁혀져 또 다른 희생자 발생을 막기 위한 나의 태도는 적당한 방관이라고 생각한다. 반대로 트롤리의 방향을 바꿔 더 적은 희생자를 발생시켰지만 이로 인한 나의 사건 개입이 1명의 희생자와 그 가족에 대한 죄의식이 없다는 확신이 서지 않아 나는 방향을 바꾸지 않는다.
트롤리 딜레마 상황 #2 역시 같은 관점에서 다가갈 것이다. 이는 이전보다 더 쉬운 결정을 내릴 수 있다. 마찬가지로 내가 중요하게 여기는 관점은 첫째, 죽음이 불가피한가? 둘째, 내가 사건에 개입하게 되는가?셋째, ‘최대의 행복’을 이끌어내는 결과가 확실한가?이다. 공리주의에서는 결과적으로 셋째부터 결과가 아닌 의도에 중점을 두기 때문에 첫째와 둘째 관점은 우선순위에서 밀려나게 된다. 트롤리 딜레마 상황 #2에서도 마찬가지로 공리적인 입장이라면 뚱뚱한 사람을 밀어낼 것이다. 이유는 쉽게 소수의 희생으로 다수의 희생을 막을 수 있으므로 ‘최대 행복’의 의도를 명확히 이루는 행위이기 때문이다. 내 관점에서 다가갔을 때 트롤리가 달리는 상황에서 노동자들의 희생은 이미 확정된 것이다. 이러한 확정적인 죽음에 대한 책임은 전적으로 트롤리에 관련된 책임자에게 있을 것이고, 나는 전혀 사건에 개입하지 않을 것이다. 뚱뚱한 사람을 누르는 순간 죽음을 피할 수 있었던 무고한 사람을 희생자로 삼게 돼 죽음이 불가피한 다수의 인부를 살릴 수 있다. 여기서 중요한 것은 첫 번째 관점에서 피할 수 없었던 다수의 죽음을 살리기보다 무고한 사람을 희생자로 만드는 것이 더 좋지 않은 판단이라고 생각된다. 또한 트롤리 딜레마 상황 #1과 마찬가지로 사건 개입도 하게 된다. 사람을 직접 누르는 것이기 때문에 죄책감이 더 크게 느껴지기도 하지만 중요한 관점은 죄책감의 크기가 아니라 그런 죄책감이 생길 수 있는 일말의 여지를 물어야 한다. 상황과는 다르지만 내가 그 상황에 없었다고 가정하면 결국 양쪽 상황에서 다수의 희생자가 나왔을 것이고, 이 사건을 뉴스로 접한 나는 죄책감에 대한 여지는 전혀 없을 것이다. 하지만 상황에서는 사건에 개입할 여지가 주어진 것이고 이로 인한 죄책감이 생길 수 있는 일말의 상황이 만들어진 것이다. 이런 상황이야말로 방관하는 것이 공리주의와 달리 예측성에 근거한 결과가 아니라 확실한 결과를 이끌어낼 수 있다. 사람을 밀거나 밀거나 밀지 않으려 했던 죄책감의 여지가 생길 수 있고 밀었을 때는 확실한 죄의식이 생긴다고 생각한다. 물론 두 상황에서는 모두 다른 사건이 앞으로 일어날 가능성을 염두에 두지 않기 때문에 ‘최대 행복’ 의도가 확실해질 수는 있다. 그렇더라도 결론적으로 방관으로 생기는 죄의식과 사건 개입으로 인한 직접적인 죄의식은 사람을 밀침으로써 다수를 구했을 때 얻는 ‘최대 행복’으로 그 죄책감의 차이를 극복할 수 없다고 생각한다. 또 사람을 밀지 않았을 때는 이후 사건에 대한 죄책감의 여지가 명확히 생긴다고 단정할 수 없다. 이런 죄책감이 생길 여지도 궁극적으로 책임이 유동성에 대해 생각해보면 누르지 않았을 때 전혀 발생하지 않을 수도 있다. 결국 이 책임의 유동성, 즉 사람을 밀었을 때 생기는 사건으로 트롤리 관련 책임자의 책임이 사건 개입으로 인한 나에게 전가되는지를 따져보면 그 가능성은 매우 희박하지만 있는 것이다. 반면 누르지 않았을 때 나에게 적용되는 책임은 간접적인 방관으로 다가갈 수 있는데, 이는 또 다른 희생자를 막기 위한 방관이기 때문에 그 책임의 본질이 다르다고 볼 수 있다.
사실상 이러한 딜레마의 두 상황 모두 또 다른 희생자를 막기 위한 행위이기 때문에 나에 대한 책임은 거의 없다고 볼 수 있지만 그것이 간접적인 방관이라는 것은 직접적인 개입에 비해 책임의 유동성이 발생하지 않을 가능성이 훨씬 높다고 판단된다. 실재는 본질에 앞선다고 생각하기 때문에 ‘최대 행복’의 의도가 확실하고 그 결과까지 확실하다면 제3자 입장에서 나는 ‘어린 히틀러’를 살해하는 것과 트롤리의 방향을 바꾸는 것, 사람을 누르는 행위에 모두 동의할 것이다. 하지만 실제로 ‘어린 히틀러’를 살해하는 것은 결과가 확실하지 않고 트롤리의 상황은 제3자의 시선이 아닌 나로 인한 책임 유동성이 발생하게 되며 이로 인한 사건 개입은 나의 본질을 깨버리는 행위가 되는 것이다. 나의 죄의식과 책임성에 본질을 깨버리므로 이때는 실존이 본질을 추월하는 것에 대한 의미가 사라지는 것이다. 예를 들어 의자는 본질은 앉는 것이고, 의자는 아니지만 앉을 수 있는 것은 실재이며 본질 없이 그 목적을 수행할 수 있다. 이 상황에서는 사건에 대한 책임이 없는 것이 저의 본질이며 어떤 상황이 일어나도 그