) 이미지 크게보기 |
| 오태석 KISTEP(한국과학기술기획평가원) 제11대 원장 /사진=KISTEP |
이달 1일 KISTEP의 수장이 된 오태석 원장은 "시시각각 변하는 글로벌 정세 속에서 우리 경제의 성장 잠재력이 위협받는다. 엄중한 시기에 KISTEP의 원장으로 취임하게 돼 무거운 책임감을 느낀다"고 했다.
그는 △연구·분석결과의 수월성 확보 △시의성 있는 정책대안 제시가 KISTEP의 '제1과제'라고 했다. 이를 위해 KISTEP이 자체개발한 과학기술혁신정책 특화 언어모델 '스파크'(SPARK)를 적극 활용할 계획이다.
머니투데이 글로벌 콘퍼런스 '2025 키플랫폼'(K.E.Y. PLATFORM 2025)에 '키맨'으로 서는 오 원장을 만나 공공기관의 AI 대전환을 이끌 KISTEP의 청사진을 들어봤다.
-지난 2월 과학기술정책 전문 AI '스파크'를 공개했습니다. 어떤 모델입니까.
▶스파크는 범용 AI와 달리 과학기술혁신 정책에 더 정확하고 깊이 있는 답변을 제공할 수 있는 특화형 언어모델입니다. KISTEP의 연구보고서 2500건, 정부 회의체 및 위원회 자료 200건, 국회 자료 1000건 등 총 5000건 넘는 신뢰도 높은 과학기술정책 공공문서를 중심으로 학습했습니다. 또 과학기술 용어를 처리하기 위해 통합 AI 인프라 플랫폼 'AI허브'의 과학기술 데이터를 학습했습니다. 여기에 오픈소스 커뮤니티 '허깅페이스'의 고품질 데이터를 추가 학습해 자연스러운 응답을 생성합니다. 스파크는 과학기술정책을 언어로 이해하고 정책현장을 지원할 수 있도록 설계된 '전문가형 AI'라고 할 수 있습니다. 공공기관처럼 보안과 신뢰가 필수적인 환경에서 최적의 대안이 될 실무형 AI입니다.
-공공기관의 '딥시크 금지령'이 한동안 화제였습니다. 그만큼 AI를 통한 정보유출 우려가 큽니다.
▶KISTEP은 국가전략기술, R&D예산 등 민감한 정보를 다루는 만큼 AI 보안문제에 특히 민감합니다. 이를 해결하기 위해 외부와 완전히 단절된 '온프레미스'(on-premise) 방식을 채택했습니다. 모든 데이터 처리가 KISTEP 내부망에서만 이뤄지며 외부 상용 클라우드나 API(애플리케이션프로그램인터페이스)는 전혀 사용하지 않습니다. 온프레이스 방식을 적용하기 위해 스파크는 LLM(거대언어모델)이 아닌 SLM(소형언어모델)로 개발됐습니다. 일반적으로 SLM은 LLM에 비해 학습데이터 양이 적은 탓에 성능이 낮습니다. 대신 스파크는 품질 높은 과학기술정책 데이터를 중심으로 학습시켰습니다. 정보의 신뢰도를 높인 것입니다. 이는 공공기관이 현실적이고 효율적으로 AI를 도입할 수 있는 전략입니다. 스파크는 허깅페이스에 공개돼 있어 유관부처와 기관에서도 자유롭게 활용할 수 있습니다. KISTEP은 스파크와 이를 기반으로 한 자체 AI서비스 '키스텝-젠'(KISTEP-GEN)을 통해 공공기관의 AI 전환에 앞장서겠습니다.
) 이미지 크게보기 |
| 과학기술정책 특화 언어모델 '스파크'를 기반으로 한 KISTEP 자체 AI 서비스 '키스텝-젠' /사진=KISTEP |
) 이미지 크게보기 |
| 과학기술정책 특화 언어모델 '스파크'를 기반으로 한 KISTEP 자체 AI 서비스 '키스텝-젠' 화면 /사진=KISTEP |
▶과학기술정책 기획-수립-집행-평가의 전과정에서 더 정밀하고 신속한 정책생태계를 구현할 수 있습니다. 반복적인 문서작성이나 데이터 분석은 AI에 맡기고 직원은 실질적인 정책대안을 모색하는데 집중하는 것입니다. 이전에는 방대한 특허·논문·보고서와 같은 데이터를 발굴하고 핵심이슈를 추출하는 등의 기본적인 과정에서 이미 연구자의 시간과 비용이 소모됐습니다. 이 과정을 스파크가 대신할 수 있습니다. KISTEP 연구자는 이제 생산적인 과정에 더 집중하게 될 것입니다. 이를 통해 효율적이고 합리적으로 정책을 수립할 뿐만 아니라 과거 정책과의 일관성도 확보할 수 있을 것이라고 기대합니다.
-한국은 아직 AI분야에서 뚜렷한 '성공작'이 없다는 평가를 받습니다. 이에 대한 해결책은.
▶우리나라의 AI 경쟁력은 뒤처졌습니다. 정부는 올해 AI 관련 예산을 지난해 대비 약 43% 증액하고 국가AI위원회를 설치했습니다. 다만 단순한 예산증액으론 글로벌 AI 패권경쟁에 대응하기 어렵습니다. 정부 차원의 투자는 AI 후발주자로서 한계를 극복할 수 있는 방향이어야 합니다. 동시에 산업생태계를 육성해 국내 AI생태계가 자립할 수 있도록 지원해야 합니다. 이런 맥락에서 국내외 우수인재 확보가 중요합니다. 미국 스탠퍼드대 'AI인덱스 보고서 2025'에 따르면 국내 AI 인재유출률은 여전히 높습니다. 국내 AI 인재양성에 힘쓰되 해외인재가 국내 노동시장으로 유입되도록 과감한 제도적 지원이 필요합니다.
-AI 시대 KISTEP의 생존전략은 무엇입니까.
▶AI는 자료분석, 이슈도출 등 반복적이고 규칙적인 업무를 빠르고 정확하게 처리합니다. 인간은 이해당사자간 의견과 갈등을 조율하고 사회적 합의와 타협을 이뤄냅니다. 정책이 갖는 사회·경제적 함의와 윤리적 맥락은 아직 AI가 이해할 수 없는 경지입니다. KISTEP은 AI가 벌어준 시간과 비용만큼 연구자의 역할을 고도화할 기회를 얻었습니다. 스파크를 통해 기존 업무의 품질을 높이고 전문가로서 역량을 더욱 키울 것입니다. 'KISTEP AI 전환'(KISTEP AIX)을 통해 우리 사회에 실질적 정책대안을 제시할 혁신전략 싱크탱크로 거듭나겠습니다.
'우려 반 기대 반' AI와 함께 할 미래…'즉각 대응' 필요한 과제는
부제 : [2025 키플랫폼] KISTEP 기술예측센터, '안전·신뢰 AI' 2024년 기술영향평가 발표
) 이미지 크게보기 |
| 안전·신뢰 AI '핵심 이슈' 물었더니/그래픽=윤선정 |
20일 KISTEP 기술예측센터에 따르면 챗GPT 등장 이후 한국 사회의 '개인정보' '보안'과 관련된 관심이 크게 높아졌다. AI의 종류에 따라 우려하는 부분도 달라 면밀한 분석결과를 기반으로 '안전·신뢰 AI' 기술을 개발할 필요가 있다는 지적이다.
'안전·신뢰 AI'는 인류의 보편적 규범가치에 부합하고 법적 요구사항에 충실하며 기술적으로 안전하고 견고해 신뢰할 수 있는 AI 기술을 말한다. △개인정보 및 저작권 침해를 방지하기 위한 데이터 편향성 탐지 및 공정성 검증기술 △AI 모델의 동작원리를 정확히 이해하기 위한 설명 가능한 AI(XAI) 기술 △AI 모델의 안정성을 확보하기 위한 시스템 오용 및 오작동 방지기술 등이 있다.
) 이미지 크게보기 |
| 10일 서울 중구 플라자호텔에서 열린 K-휴머노이드 연합 출범식에 전시된 휴머노이드 로봇. 왼쪽부터 로브로스, 블루로빈, 에이로봇, 레인보우로보틱스의 휴머노이드. /사진=뉴스1 |
연구팀은 △헬스케어AI △휴머노이드AI △브레인AI(뇌-컴퓨터 인터페이스 기술) 3개 종류에 적용되는 '안전·신뢰 AI' 기술의 영향을 평가했다. AI분야 전문가 125명 및 일반시민 1000명이 평가에 참여했다.
그 결과 헬스케어AI에 대한 시민의 반응은 긍정적이었다. AI를 활용해 개인의 특성을 반영한 효과적인 건강관리를 받을 수 있다는 기대감이 컸다. 다만 개인정보 유출을 비롯해 디지털격차 및 소득격차가 발생할 수 있다는 우려가 제기됐다. 전문가집단에선 의료데이터 품질을 높이기 위해 관리체계를 구축하고 정보보안을 강화해야 한다는 정책과제가 도출됐다.
휴머노이드에 대해선 부정적인 시각이 지배적이었다. 시민들은 일자리 대체를 우려했다. 전문가집단은 물리적 안전을 비롯해 인간과의 상호작용에서 윤리적 문제가 발생할 가능성을 제기했다. 브레인AI 분야의 경우 전문가들은 뇌 신호 해석의 정확도가 떨어질 경우 발생할 기술적 문제 및 뇌의 자극으로 인한 과의존 문제 등을 우려했다. 시민집단에선 치매 및 중증 신경질환을 치료하는데 쓰일 수 있을 것이라고 기대하는 의견이 나왔다.
연구팀은 이를 종합해 △개인정보 위험 △사고오류의 책임소재 △인간 자율성-사회성 약화 △휴머노이드 일자리·사회변화 △브레인AI 의존 등을 '즉각적 대응'이 필요한 과제로 꼽았다. 기술영향평가 결과는 관계부처에 통보돼 소관분야 정책에 반영될 예정이다.
