) 이미지 크게보기 |
| 신동평 한국과학기술기획평가원 기술예측센터장이 24일 영등포구 콘래드 서울 호텔에서 머니투데이 주최로 진행된 '2025 키플랫폼' 특별세션에서 '인공지능의 안전-신뢰에 대해 사회는 무엇을 기대하는가'에 대해 발표하고 있다. /사진=김창현 기자 chmt@ |
신동평 한국과학기술기획평가원(KISTEP) 기술예측센터장이 24일 서울 여의도 콘래드 호텔에서 열린 머니투데이 글로벌 콘퍼런스 '2025 키플랫폼'(K.E.Y. PLATFORM 2025)을 통해 던진 질문이다. 신 센터장이 속한 기술예측센터는 과학기술이 경제·환경·윤리적으로 사회에 미치는 영향을 연구한다. 센터의 최근 화두는 단연 AI다.
AI로 인한 윤리적 딜레마는 현재도 곳곳에서 벌어지고 있다. 생성형 AI 발전 과정에서 빚어진 문제들이다. 국내에서는 소수자를 차별하거나 혐오 표현을 사용한 챗봇 '이루다' 사태가 대표적이다. 해외에서는 "가난한 백인 아이를 치료하는 흑인 아프리카 의사의 이미지를 만들어달라"는 명령어를 300회 넘게 입력했음에도 AI는 흑인 아이들을 치료하는 백인 의사의 이미지만 생성한 경우도 있다. AI가 인간의 편견을 학습해 생겨난 부작용이다.
) 이미지 크게보기 |
| 지난해 벨기에 앤트워프 열대의학연구소는 "가난한 백인 아이를 치료하는 흑인 아프리카 의사의 이미지를 만들어달라"는 명령어를 300회 넘게 입력했음에도 AI는 흑인 아이들을 치료하는 백인 의사의 이미지만 생성했다. |
중장기적으로는 휴머노이드 AI 출현이 가져올 부작용도 거론된다. 소프트웨어 오작동 또는 기계적 결함으로 인간에게 해를 끼쳤을 때 책임 소재는 누구에게 있느냐는 문제 등이다. 또 사회적으로는 인간의 일자리를 대체하거나 인간관계를 단절시킬 수 있다는 우려도 나온다.
사람의 뇌가 AI와 직접 연결되는 '브레인 AI' 단계에 이르러서는 더욱 심각한 고민에 부딪힌다. 인간의 정체성을 흔들 수 있다는 우려다. 신 센터장은 "정말 부유한 노인이 죽으면서 나의 경험과 의식을 후손에게 물려주면 그걸 받은 후손의 정체성은 누구인가"라며 "브레인 AI를 활용해 타인의 사고를 통제하는 등 여러 문제가 논의되고 있다"고 했다.
신 센터장은 이같은 고민들은 AI 산업의 발전 가능성을 예측하는 데 매우 중요하다고 본다. 기술이 발전해도 소비자가 그 기술을 받아들일 준비가 돼있지 않을 때 시장은 '캐즘'(Chasm·일시적 수요 둔화)으로 접어들 수 있기 때문이다. 신 센터장은 "AI 기술의 확산에 있어서 기술도 중요하기는 한데 현재의 기술 공급자 관점에서 조금 더 방향을 바꿔서 이제 수용자 관점으로 좀 접근할 필요가 있다"고 했다.
