한국산업경영시스템학회

AI 시대와 윤리
 

인공지능은 더 이상 미래의 기술이 아니다. 우리는 이미 인공지능이 추천하는 영상을 보고, 인공지능이 알려주는 길을 따라 이동하며, 인공지능의 도움을 받아 글을 쓰고 자료를 분석한다. 기업은 인공지능을 활용해 고객의 소비 성향을 예측하고, 병원은 질병 진단을 지원받으며, 학교에서는 학생별 맞춤형 학습을 시도하고 있다.

인공지능은 우리의 생활을 편리하게 만들고 업무의 효율성을 높이는 강력한 도구이다. 그러나 기술이 빠르게 발전할수록 한 가지 중요한 질문을 함께 던져야 한다.

인공지능이 할 수 있는 일과 인공지능이 해도 되는 일은 같은가?

바로 이 질문에서 AI 시대의 윤리가 시작된다.
 

편리함 뒤에 숨겨진 윤리적 문제

인공지능의 가장 큰 장점은 많은 정보를 빠르게 분석하고 적절한 결과를 제시하는 능력이다. 하지만 인공지능이 내놓은 결과가 언제나 정확하거나 공정한 것은 아니다.

예를 들어 기업이 인공지능을 활용해 입사 지원자를 평가한다고 생각해 보자. 인공지능은 학력, 경력, 자격증, 자기소개서 등의 정보를 분석해 적합한 지원자를 선별할 수 있다. 채용 담당자의 업무 부담을 줄이고 평가 속도를 높일 수 있다는 점에서는 매우 효율적이다.

그러나 인공지능이 과거에 채용된 사람들의 데이터를 중심으로 학습했다면 문제가 발생할 수 있다. 과거의 채용 과정에 성별, 연령, 출신 지역, 학교 등에 대한 편견이 포함되어 있었다면 인공지능 역시 그러한 편견을 반복할 가능성이 있다. 사람의 편견이 데이터에 담기고, 그 데이터가 인공지능의 판단 기준이 되는 것이다.

겉으로는 객관적인 기술처럼 보이지만, 그 안에는 사회가 오랫동안 가지고 있던 차별과 불평등이 숨어 있을 수 있다.

따라서 인공지능의 판단을 무조건 객관적이라고 믿어서는 안 된다. 어떤 데이터를 학습했는지, 어떤 기준으로 판단했는지, 특정 집단에 불리한 결과가 나타나지는 않는지를 지속적으로 살펴야 한다.
 

개인정보는 어디까지 활용할 수 있는가

AI 시대에는 데이터가 중요한 자원이 된다. 인공지능은 많은 데이터를 학습할수록 사용자의 취향과 행동을 더욱 정확하게 예측할 수 있다.

온라인 쇼핑몰은 우리가 검색한 상품과 구매 기록을 분석해 관심 상품을 추천한다. 동영상 플랫폼은 시청 기록을 바탕으로 좋아할 만한 영상을 보여준다. 내비게이션은 위치정보와 이동 경로를 분석해 빠른 길을 안내한다. 스마트워치는 심박수, 수면시간, 운동량과 같은 건강정보를 수집한다.

이러한 서비스는 매우 편리하다. 그러나 편리함을 얻는 과정에서 우리는 자신의 개인정보를 얼마나 제공하고 있는지 정확히 알지 못하는 경우가 많다.

내가 어떤 장소를 방문했는지, 무엇을 검색했는지, 어떤 물건을 구매했는지, 누구와 자주 연락하는지, 건강 상태는 어떠한지에 대한 정보가 지속적으로 수집될 수 있다. 이러한 데이터가 적절하게 보호되지 않거나 본래의 목적과 다르게 사용된다면 개인의 사생활과 자유가 침해될 수 있다.

특히 개인정보 제공에 동의했다는 이유만으로 모든 활용이 정당화되는 것은 아니다. 이용자가 이해하기 어려운 긴 약관에 형식적으로 동의하도록 하는 방식은 진정한 동의라고 보기 어렵다.

기업과 공공기관은 필요한 범위 안에서 최소한의 개인정보만 수집해야 한다. 이용자에게 어떤 데이터를 왜 수집하는지, 어디에 사용하는지, 얼마나 오래 보관하는지를 명확하게 알려야 한다. 개인에게도 자신의 정보를 열람하고 수정하며 삭제를 요구할 수 있는 권리가 보장되어야 한다.
 

AI가 잘못된 판단을 내리면 누가 책임지는가

인공지능은 스스로 판단하는 것처럼 보이지만, 실제로는 사람이 설계한 알고리즘과 사람이 제공한 데이터를 기반으로 작동한다. 따라서 인공지능이 잘못된 결과를 내놓았을 때 책임을 누구에게 물어야 하는지가 중요한 문제가 된다.

자율주행차가 사고를 일으켰다면 운전자의 책임일까, 자동차 제조사의 책임일까, 인공지능 프로그램을 개발한 기업의 책임일까. 의료 인공지능이 잘못된 진단을 제시해 환자가 피해를 입었다면 의사와 병원, 개발기업 중 누가 책임을 져야 할까.

인공지능이 복잡해질수록 책임의 주체도 불분명해질 수 있다. 그러나 “AI가 판단했다”는 말이 책임을 피하는 이유가 되어서는 안 된다.

인공지능은 법적·도덕적 책임을 질 수 있는 인간이 아니다. 따라서 인공지능을 개발하고 도입하며 활용하는 사람과 조직이 최종적인 책임을 져야 한다. 특히 사람의 생명, 안전, 채용, 대출, 교육, 복지처럼 중요한 권리와 관련된 분야에서는 인간이 최종적으로 검토하고 결정하는 절차가 반드시 필요하다.

인공지능의 판단을 그대로 따르는 것이 아니라, 결과가 타당한지 확인하고 필요한 경우 수정하거나 거부할 수 있어야 한다. 이를 흔히 ‘인간에 의한 감독’이라고 할 수 있다.

진짜와 가짜를 구별하기 어려운 시대

생성형 인공지능의 발전은 글, 그림, 음악, 영상 제작의 방식을 크게 바꾸고 있다. 누구나 짧은 명령만으로 자연스러운 문장을 작성하고, 실제 사진처럼 보이는 이미지를 만들며, 사람의 목소리와 얼굴을 재현할 수 있게 되었다.

이러한 기술은 창작의 기회를 넓혀준다. 전문적인 기술이 없는 사람도 자신의 생각을 글과 이미지로 표현할 수 있으며, 기업과 교육기관도 콘텐츠 제작에 필요한 시간과 비용을 줄일 수 있다.

반면 허위정보와 가짜 콘텐츠를 대량으로 만드는 데 악용될 위험도 커지고 있다. 실제 인물이 하지 않은 말을 한 것처럼 꾸미거나, 존재하지 않는 사건의 사진과 영상을 만들어 퍼뜨릴 수 있다. 특정인의 얼굴과 목소리를 합성한 딥페이크는 명예훼손, 사기, 선거 개입, 성범죄 등의 수단으로 이용될 수 있다.

문제는 인공지능이 만든 결과물이 점점 정교해지면서 일반인이 진짜와 가짜를 구별하기 어려워진다는 점이다.

앞으로는 단순히 정보를 많이 아는 것보다 정보의 출처를 확인하고 진위를 판단하는 능력이 더욱 중요해질 것이다. 생성형 인공지능으로 만든 콘텐츠에는 이를 확인할 수 있는 표시와 기술적 장치가 필요하다. 플랫폼 기업 역시 명백한 허위정보와 불법 콘텐츠가 빠르게 확산되지 않도록 책임 있는 관리체계를 마련해야 한다.

이용자도 자극적인 사진이나 영상을 곧바로 믿거나 전달하기보다 원래의 출처와 작성 시점, 다른 언론과 기관의 확인 여부를 살펴보는 습관을 가져야 한다.

인간의 일자리는 어떻게 달라질 것인가

AI 시대의 윤리는 일자리 문제와도 연결된다. 인공지능은 반복적인 업무를 빠르고 정확하게 처리하며, 사람이 오랜 시간 수행하던 일을 자동화하고 있다.

보고서 작성, 번역, 고객상담, 회계처리, 디자인, 법률자료 검토, 의료영상 분석처럼 과거에는 전문 인력이 담당하던 업무도 인공지능의 영향을 받고 있다. 기업은 생산성을 높일 수 있지만 일부 노동자는 자신의 일자리가 줄어들거나 업무 가치가 낮아질 수 있다는 불안을 느끼게 된다.

기술 발전 자체를 막을 수는 없다. 그러나 기술 발전으로 발생하는 이익이 특정 기업과 소수에게만 집중되고, 그 과정에서 일자리를 잃은 사람들이 모든 부담을 떠안는다면 그것은 공정한 변화라고 보기 어렵다.

AI를 도입하는 기업은 단순히 인력을 줄이는 데만 관심을 가져서는 안 된다. 기존 근로자가 새로운 업무를 수행할 수 있도록 교육과 재훈련의 기회를 제공해야 한다. 정부와 교육기관도 디지털 역량과 AI 활용 능력을 높일 수 있는 평생교육 체계를 마련해야 한다.

인공지능은 사람을 대체하는 도구가 아니라 사람이 더 가치 있는 일을 할 수 있도록 지원하는 도구로 활용되어야 한다. 위험하고 반복적인 업무는 인공지능과 기계가 담당하고, 인간은 창의성, 공감, 협력, 판단, 책임이 필요한 업무에 더욱 집중하는 방향으로 변화해야 한다.

창작물의 주인은 누구인가

생성형 인공지능이 만든 글과 그림, 음악이 늘어나면서 저작권과 창작자 보호 문제도 중요해지고 있다.

인공지능은 기존에 존재하는 수많은 글, 사진, 그림, 음악을 학습해 새로운 결과물을 만든다. 이 과정에서 원작자의 허락 없이 작품이 학습에 사용되었다면 정당한 것인지, 인공지능이 만든 결과물이 기존 작품과 유사하다면 누구의 책임인지 논란이 발생할 수 있다.

또한 사람이 간단한 명령어를 입력해 만든 이미지나 글을 온전히 자신의 창작물이라고 할 수 있는지도 생각해 볼 문제이다.

인공지능을 활용한 창작을 무조건 부정할 필요는 없다. 사진기와 컴퓨터, 그래픽 프로그램도 처음 등장했을 때 기존 창작방식을 위협한다는 우려가 있었다. 중요한 것은 새로운 기술을 활용하면서도 인간 창작자의 권리와 노력을 존중하는 기준을 만드는 일이다.

AI 학습에 사용되는 자료의 출처를 투명하게 관리하고, 필요한 경우 저작권자의 동의와 보상이 이루어져야 한다. 인공지능을 활용해 만든 콘텐츠인지 표시하는 문화도 필요하다. 다른 사람의 작품을 그대로 모방하거나 특정 창작자의 화풍과 표현을 무단으로 복제하는 행위는 기술적으로 가능하더라도 윤리적으로 신중하게 접근해야 한다.

AI에게 인간의 판단을 맡겨도 되는가

우리는 점점 더 많은 선택을 인공지능의 추천에 의존하고 있다. 어떤 영화를 볼지, 어떤 상품을 구매할지, 어디로 여행할지뿐만 아니라 어떤 사람을 만날지, 어떤 직업을 선택할지까지 인공지능의 추천을 참고한다.

추천은 선택을 편리하게 만들어주지만, 우리의 시야를 좁힐 수도 있다. 인공지능은 사용자가 과거에 좋아했던 것과 비슷한 콘텐츠를 계속 보여주는 경향이 있다. 그 결과 우리는 새로운 생각이나 다른 관점을 접하기보다 기존의 취향과 생각만 강화할 수 있다.

특히 뉴스와 정치·사회적 정보가 개인의 관심에 맞춰 제공되면 자신과 비슷한 의견만 반복해서 접하는 현상이 나타날 수 있다. 이는 사회적 갈등을 키우고, 서로 다른 입장을 이해하기 어렵게 만들 수 있다.

인공지능의 추천은 하나의 참고자료일 뿐, 인간의 최종 판단을 대신해서는 안 된다. 때로는 알고리즘이 추천하지 않은 책을 읽고, 다른 의견을 가진 사람의 이야기를 듣고, 익숙하지 않은 분야를 경험할 필요가 있다.

인간은 효율성만을 기준으로 살아가는 존재가 아니다. 때로는 돌아가고, 실패하고, 예상하지 못한 선택을 하면서 배우고 성장한다. 인공지능이 제시하는 가장 효율적인 선택이 반드시 인간에게 가장 좋은 선택은 아닐 수 있다.

AI 윤리는 기술자만의 문제가 아니다

AI 윤리라고 하면 인공지능을 개발하는 기술자나 기업의 문제라고 생각하기 쉽다. 그러나 인공지능은 사회 전체에 영향을 미치기 때문에 모든 구성원이 함께 고민해야 한다.

개발자는 인공지능이 안전하고 공정하게 작동하도록 설계해야 한다. 기업은 이익과 효율성뿐만 아니라 이용자의 권리와 사회적 영향을 고려해야 한다. 정부는 기술 발전을 지나치게 막지 않으면서도 피해를 예방할 수 있는 법과 제도를 마련해야 한다. 학교는 학생들에게 인공지능을 사용하는 방법뿐만 아니라 올바르게 사용하는 태도도 가르쳐야 한다.

이용자 역시 책임에서 자유롭지 않다. 인공지능이 작성한 글을 자신의 생각인 것처럼 제출하거나, 확인되지 않은 정보를 퍼뜨리거나, 다른 사람의 얼굴을 이용해 합성 이미지를 만드는 행동은 기술의 문제가 아니라 사용자의 윤리 문제이다.

결국 중요한 것은 인공지능이 얼마나 똑똑한가가 아니라, 인간이 인공지능을 얼마나 책임 있게 사용하는가이다.

인간다움이 더욱 중요해지는 시대

인공지능이 발전하면 인간의 역할이 줄어들 것이라고 생각할 수 있다. 그러나 오히려 AI 시대에는 인간다움의 가치가 더욱 중요해질 가능성이 크다.

인공지능은 많은 정보를 분석하고 빠르게 답을 제시할 수 있지만, 타인의 고통을 진정으로 느끼거나 자신의 행동에 도덕적 책임을 질 수는 없다. 무엇이 옳고 그른지, 누구를 배려해야 하는지, 사회가 어떤 방향으로 나아가야 하는지를 결정하는 일은 여전히 인간의 몫이다.

병원에서 인공지능이 질병을 분석할 수는 있지만 불안해하는 환자의 손을 잡아주는 일은 사람이 해야 한다. 학교에서 인공지능이 학습자료를 제공할 수는 있지만 학생의 고민을 이해하고 용기를 주는 일은 교사가 해야 한다. 기업에서 인공지능이 최적의 구조조정 방안을 제시할 수는 있지만 그 결정이 직원과 가족의 삶에 어떤 영향을 미칠지 고민하는 일은 경영자의 책임이다.

AI 시대의 경쟁력은 인공지능보다 더 빠르게 계산하는 능력에서 나오지 않는다. 질문하는 능력, 비판적으로 생각하는 능력, 다른 사람과 협력하는 능력, 공감하고 책임지는 능력에서 나온다.

기술의 방향을 결정하는 것은 인간이다

인공지능은 선하거나 악한 존재가 아니다. 인공지능은 인간이 어떤 목적으로 만들고 어떻게 사용하는지에 따라 사회에 도움이 될 수도 있고 피해를 줄 수도 있다.

칼은 음식을 만드는 도구가 될 수도 있고 사람을 해치는 도구가 될 수도 있다. 자동차는 이동의 자유를 넓혔지만 교통사고와 환경오염이라는 문제도 가져왔다. 인터넷은 지식을 공유하는 공간을 만들었지만 허위정보와 사이버범죄를 확산시키기도 했다.

인공지능도 마찬가지다. 기술이 발전한다고 해서 사회가 자동으로 더 나은 방향으로 나아가는 것은 아니다. 기술의 발전 속도만큼 윤리적 기준과 사회적 제도도 함께 발전해야 한다.

AI 시대의 윤리는 기술을 두려워하거나 거부하기 위한 것이 아니다. 인공지능이 인간의 존엄성과 자유를 침해하지 않고, 사회의 공정성과 안전을 높이며, 더 많은 사람에게 도움이 되도록 올바른 방향을 제시하기 위한 것이다.

앞으로 인공지능은 지금보다 더 많은 일을 수행하게 될 것이다. 그러나 어떤 일을 인공지능에게 맡길 것인지, 어떤 결정은 반드시 인간이 내려야 하는지, 그 결과에 누가 책임질 것인지를 결정하는 주체는 인간이어야 한다.

AI 시대에 필요한 가장 중요한 질문은 “인공지능이 무엇을 할 수 있는가”가 아니다.

“우리는 인공지능을 이용해 어떤 사회를 만들 것인가”라는 질문이다. 기술은 인간을 대신해 그 답을 정해주지 않는다. 그 답을 선택하고 책임지는 일은 결국 우리 모두의 몫이다.
 

융합경영 리뷰 편집위원장