) 이미지 크게보기 |
| 안전·신뢰 AI '핵심 이슈' 물었더니/그래픽=윤선정 |
생성형 AI(인공지능) '챗GPT'의 등장으로 AI가 가져올 혁신에 대한 기대감이 높지만 동시에 AI의 안전성과 신뢰도에 대한 사회적 요구도 커졌다. 우리나라 과학기술혁신정책 싱크탱크인 한국과학기술기획평가원(KISTEP)은 국내 전문가와 시민이 개인정보 침해예방, 사고시 책임소재 마련 등을 주요 정책과제로 꼽았다고 밝혔다.
20일 KISTEP 기술예측센터에 따르면 챗GPT 등장 이후 한국 사회의 '개인정보' '보안'과 관련된 관심이 크게 높아졌다. AI의 종류에 따라 우려하는 부분도 달라 면밀한 분석결과를 기반으로 '안전·신뢰 AI' 기술을 개발할 필요가 있다는 지적이다.
'안전·신뢰 AI'는 인류의 보편적 규범가치에 부합하고 법적 요구사항에 충실하며 기술적으로 안전하고 견고해 신뢰할 수 있는 AI 기술을 말한다. △개인정보 및 저작권 침해를 방지하기 위한 데이터 편향성 탐지 및 공정성 검증기술 △AI 모델의 동작원리를 정확히 이해하기 위한 설명 가능한 AI(XAI) 기술 △AI 모델의 안정성을 확보하기 위한 시스템 오용 및 오작동 방지기술 등이 있다.
) 이미지 크게보기 |
| 10일 서울 중구 플라자호텔에서 열린 K-휴머노이드 연합 출범식에 전시된 휴머노이드 로봇. 왼쪽부터 로브로스, 블루로빈, 에이로봇, 레인보우로보틱스의 휴머노이드. /사진=뉴스1 |
기술예측센터는 지난해 '안전·신뢰 AI'에 대한 기술영향평가를 실시했다. 기술영향평가는 새로운 과학기술이 경제·사회에 전반적으로 미치는 영향과 부작용 가능성을 평가그룹 및 시민포럼을 통해 분석하는 연구활동이다. 기술영향평가는 국가 R&D(연구·개발)사업 기획을 비롯해 기술의 부정적 영향을 최소화하기 위한 정책의 핵심자료로 쓰인다.
연구팀은 △헬스케어AI △휴머노이드AI △브레인AI(뇌-컴퓨터 인터페이스 기술) 3개 종류에 적용되는 '안전·신뢰 AI' 기술의 영향을 평가했다. AI분야 전문가 125명 및 일반시민 1000명이 평가에 참여했다.
그 결과 헬스케어AI에 대한 시민의 반응은 긍정적이었다. AI를 활용해 개인의 특성을 반영한 효과적인 건강관리를 받을 수 있다는 기대감이 컸다. 다만 개인정보 유출을 비롯해 디지털격차 및 소득격차가 발생할 수 있다는 우려가 제기됐다. 전문가집단에선 의료데이터 품질을 높이기 위해 관리체계를 구축하고 정보보안을 강화해야 한다는 정책과제가 도출됐다.
휴머노이드에 대해선 부정적인 시각이 지배적이었다. 시민들은 일자리 대체를 우려했다. 전문가집단은 물리적 안전을 비롯해 인간과의 상호작용에서 윤리적 문제가 발생할 가능성을 제기했다. 브레인AI 분야의 경우 전문가들은 뇌 신호 해석의 정확도가 떨어질 경우 발생할 기술적 문제 및 뇌의 자극으로 인한 과의존 문제 등을 우려했다. 시민집단에선 치매 및 중증 신경질환을 치료하는데 쓰일 수 있을 것이라고 기대하는 의견이 나왔다.
연구팀은 이를 종합해 △개인정보 위험 △사고오류의 책임소재 △인간 자율성-사회성 약화 △휴머노이드 일자리·사회변화 △브레인AI 의존 등을 '즉각적 대응'이 필요한 과제로 꼽았다. 기술영향평가 결과는 관계부처에 통보돼 소관분야 정책에 반영될 예정이다.
