[AI in a Week by TechFrontier] 한 주일의 주요 AI 뉴스, 논문, 칼럼을 ‘테크프론티어’ 한상기 박사가 리뷰합니다. (⏰12분)
지난주에도 AI 관련 기술, 정책, 보고서들이 쏟아져 나와서 AI 관련 흐름을 추적하는 사람들은 편히 지내지 못했다. 이런 자료들이 갖는 의미에 관한 토론이 여러 온라인 그룹에서 이루어졌고, 국내 언론에서도 다루어졌다. 하지만 보는 시각은 외국 언론과 조금 다른 면이 있었다.
1. 미 바이든 행정부, AI 국가안보각서(NSM) 발표
NSM은 미국 정부가 (1) 미국이 안전하고, 보안성 있으며, 신뢰할 수 있는 AI 개발을 선도하고, (2) 최첨단 AI 기술을 활용하여 미국 정부의 국가 안보 임무를 발전시키고, (3) AI에 대한 국제적 합의와 거버넌스를 발전시키기 위한 구체적이고 영향력 있는 조치를 이행하도록 지시한다는 내용을 담고 있다. 또한, 연방정부의 AI 채택을 활성화하고 AI 사용에 관한 국제 규범을 형성하면서 국가 안보 목적의 적대적 AI 개발 및 사용을 추적하고 이에 대응할 것을 규정한다.
발표 자료에서 언급한 몇 가지 주요 포인트를 정리하면 다음과 같다.
- NSM은 칩 공급망의 보안과 다양성을 개선하고, 미국이 차세대 정부 슈퍼컴퓨터 및 기타 신기술 개발을 지원한다.
- 경쟁국가들이 미국 기술을 훔치기 위한 스파이를 고용하고 있다. 따라서 경쟁국 AI 부문에 대한 정보 수집을 최우선으로 삼고, 관련 미 정부 기관은 AI 개발자에게 개발 보안을 유지하는 데 필요한 사이버 보안 및 방첩 정보를 적시에 제공한다.
- AI 안전연구소를 미국 정부와 산업계의 주요 연락 창구로 공식 지정하고 AI 안전연구소가 정보 커뮤니티, 국방부, 에너지부 등 국가 안보 기관과 협력할 수 있도록 강화되고 간소화된 메커니즘을 마련한다.
- NSM은 대학, 시민 사회, 중소기업 연구자들이 기술적으로 의미 있는 AI 연구를 수행할 수 있도록 이미 시범 운영 중인 국가 AI 연구 자원(NAIRR)을 두 배로 늘린다.
- 국가경제위원회(National Economic Council)에 미국 민간 부문 AI 생태계의 상대적 경쟁 우위에 관한 경제적 평가 작업을 주관하도록 한다.
- NSM은 단순히 국가 안보 임무를 위해 AI 시스템을 효과적으로 사용할 것을 요구하는 것이 아니라, 민주적 가치에 부합하는 방식으로만 사용해야 한다는 점을 명시한다.
- 국가 안보에서 AI 거버넌스 및 위험 관리를 발전시키기 위한 프레임워크를 만들도록 지시했고, NSM과 같이 발표한다. 이 프레임워크는 위험 관리, 평가, 책임 및 투명성을 위한 메커니즘을 포함하여 NSM을 이행하기 위한 자세한 내용과 지침을 제공한다.
- AI 시스템을 효과적으로 사용할 수 있도록 간소화된 조달 관행과 비전통적 공급업체와의 협업을 용이하게 하는 방법을 제안하도록 한다.
- NSM은 미국 정부가 동맹국 및 파트너와 협력하여 인권과 기본적 자유를 보호하면서 국제법을 준수하는 방식으로 기술을 개발하고 사용할 수 있도록 안정적이고 책임감 있으며 권리를 존중하는 거버넌스 프레임워크를 구축하도록 지시한다.
지금까지 내용은 백악관이 발표한 팩트 시트를 통한 요약이고 NSM 전문은 더욱 상세하며 앞으로의 일정과 시한이 명시돼 있다. 예를 들어, 이 각서에는 핵무기 조립이나 실험을 더 쉽게 할 수 있는 “첨단” AI 모델의 “방사능 및 핵 위험”에 대해 에너지부가 작성하여 대통령에게 연례 보고서를 제출하도록 규정하고 있다. 인공지능 모델이 어떻게 “고의적인 화학 및 생물학적 위협을 발생시키거나 악화시킬 수 있는지에 대한” 정기적인 기밀 평가에 대해서도 비슷한 기한이 정해져 있다.
국내 언론에서는 미국이 AI를 핵무기처럼 전략 자산임을 선언했고, 인재 확보, 인프라 구축, 공급망 보호, 악용 방지 정책들을 망라했다고 보도했다. 사실 NSM의 의미는 매우 크다. 어느 정부가 들어서도 전 정부의 NSM은 대체로 지키는 것이 전통이었다. 우리가 더 참고해야 하는 것은 거버넌스와 위험 관리 발전을 위한 프레임워크이다.
이 모든 움직임은 작년에 발표한 행정 명령 14110 4.8항에 따라 추진하고 있는 것이며 최근 민간 기업에 의해 매우 강력한 AI 기술이 빠르게 선 보이는 상황이 미 정부가 이 정도 수준의 메모를 발표한 것이라고 해석할 수 있다.
이 발표에 관해 뉴욕타임스는 국방부, 정보 기관 및 기타 국가 안보 기관이 AI 기술을 사용하고 보호하는 방법을 자세히 설명하고 AI 사용을 위한 가드레일을 마련했다고 평가했다. 그러나 데드라인이나 실제 의미 있는 실행은 대부분 바이든 정부 이후로 잡혀 있기 때문에 과연 차기 정부가 이를 따를 것인가에 대한 의문을 제기했다. 특히 트럼프가 집권하면 어찌될 지 모르겠다는 것이다.
NSM을 발표한 국가 안보 보좌관인 제이크 설리번의 지적 중 하나는 미국 정부가 핵심 AI 기술에 펀딩해 지분이 있는 것도 아니고, AI 기술을 확보하지도 못한 점이다. AI 기술이 대부분 민간에 의해 주도되는 점을 문제 삼았다. 그 동안 핵물리학, 우주 탐사, 인터넷, PC 등은 미 정부 자금 지원으로 시작된 것과 비교하면 매우 다른 양상이라는 것이다.
특히 국방부, CIA, 법무부 등 정부 기관가 AI를 어떻게 사용해야 하는 지에 관한 가이드라인이 없어서 기업이 어떤 것이 합법적인 것인지 판단하지 못하고 있다는 것이다. 또한, NSM 결론 부분에 언급한 위기 경고는 이제 늘상 나오는 얘기인데, 사실 AI는 악의적 사용이 아니더라도 일상에서 문제를 발생할 수 있다.
NSM의 명시적 발언은 중국을 고위험 인공 지능 애플리케이션의 제한에 대한 더 깊은 논의로 끌어들이려는 노력의 일환이라고 본다. 지난 봄 유럽에서 진행된 중국과의 초기 대화에서도 이 주제에 관해선 별로 실질적인 진전이 없었다는 게 뉴욕타임스의 논평이다.
2. 앤스로픽의 업그레이드 모델 발표와 컴퓨터 유즈 에이전트
앤스로픽은 오픈AI의 강력한 경쟁자다. 주로 엔터프라이즈 시장을 공략한다. 앤스로픽이 클로드 3.5 소네트 업그레이드 버전, 새 모델인 클로드 3.5 하이쿠(Haiku)를 발표하면서 새로운 도구인 ‘컴퓨터 유즈’를 발표해 신선함을 선사했다. 컴퓨터 유즈는 아직 베타 상태라서 API를 통해 접근할 수 있지만, 이제 AI 에이전트가 사용자 PC 화면을 읽고, 커서를 움직이고, 버튼을 클릭하고, 텍스트를 타이핑해서 주어진 문제를 자동으로 풀어 갈 수 있음을 보여줬다.
몇 개의 데모 영상이 나왔다.
- 요구 사항 메모로 전달: “친구가 샌프란시스코에 오는데 내일 아침 골든 게이트 다리에서 일출을 보고 싶어. 우리는 퍼시픽 하이츠에서 갈건데 가장 뷰가 멋진 장소를 알려주고, 그 곳에 도착할 수 있는 운전 시간과 일출 시간, 그리고 이를 내 칼렌다 일정에 넣어줄래?”
- ‘컴퓨터 유즈’의 처리: 구글을 검색하고, 블로그 정보를 찾고, 지도를 읽으며, 내일 일출 시간을 고려해, 그 일정을 칼렌다에 자동으로 등록하는 과정을 AI 에이전트가 알아서 해준다. 데모다. (이 데모는 유튜브 영상으로 볼 수 있다.)
앤스로픽은 이 기능을 기업 개발자에게 제공하고 있으며 현재 아싸나, 캔바, 코그니션, 도어대시, 레플리트, 브라우저 컴퍼니 등이 쓰면서 피드백하고 있다. 개발자들은 컴퓨터 유즈 API를 앤스로픽 API, 아마존 베드락, 구글 클라우드의 버텍스 AI에서 사용할 수 있다.
클로드 3.5 소네트 업그레이드는 에이전트 방식의 코딩 기능 등을 크게 향상해 여러 벤치마크에서 개선된 성능을 보였다. 클로드 3.5 하이쿠는 가장 빠른 모델이면서 앤스로픽의 가장 큰 모델인 오퍼스의 성능을 넘어섰다. 특히 코딩 태스크에서 커다란 개선을 보였다.
사람들이 가장 흥미로워 한 ‘컴퓨터 유즈’는 사실 누군가가 오늘이라도 바로 내놓을 것 같은 에이전트 기술인데 아마존이 실제로 인수한 어뎁트도 관련 기술을 개발하려 했고, 애플도 모바일 화면을 인식하는 기술 개발을 한 이유가 여기에 있다.
10월 26일 디 인포메이션은 구글 역시 ‘프로젝트 자비스’라고 유사한 에이전트 기술을 개발해 빠르면 12월에 공개할 것이라고 보도했다. 그러나 구글과 앤스로픽의 차이는 구글의 자비스는 크롬 브라우저 상에서만 동작하는데 앤스로픽의 ‘컴퓨터 유즈’는 PC에 설치된 다양한 애플리케이션을 구동할 수 있다는 점이다.
마이크로소프트도 이미 유사한 기능을 하는 옴니파서(OmniParser)를 허깅페이스에 공개한 적이 있다. 옴니파서는 기존 LLM 기반 UI 에이전트를 개선하기 위해 UI 스크린샷을 구조화된 형식으로 해석∙변환하는 일반 화면 파싱 툴이라고 설명한다.
많은 전문가가 올해가 에이전트의 시대가 시작하는 시점일 것이라고 예상했듯이 이제 앤스로픽과 구글 외에도 세일즈포스, 오픈AI, 마이크로소프트, 아마존, 워크데이 등이 사람의 업무를 자동화하는 에이전트를 개발해 제공할 것이다. 그러나 이 기술은 우선 기업용으로 제공해 각 기업이 자기 서비스와 소프트웨어를 자동으로 사용할 수 있게 하는 쪽으로 활용하게 될 것이다.
3. 영국 AI 안전연구소가 프론티어 AI 모델 평가를 통해 얻은 교훈
영국 AI 안전연구소가 제3자 평가기관으로서 그동안의 경험과 고려 사항 그리고 아직 고민이 필요한 질문을 정리해서 블로그에 올렸다. AI 안전연구소(AISI)의 임무는 정부가 첨단 AI 시스템의 안전성에 대한 경험적 이해를 갖출 수 있도록 지원하는 것이고, 이를 위해 위험을 초래할 수 있는 AI 시스템의 기능을 측정하기 위한 평가를 설계하고 실행한다.
이 글에서는제3자 평가자의 역할과 테스트 대상 시스템, 테스트 시기, 테스트할 위험 및 기능 등 타사 평가자의 테스트 대상에 대해 논의한다. 또한 어떤 테스트를 어떤 목적으로 사용할지, 강력한 테스트를 개발하는 방법, 안전과 보안을 보장하는 방법 등 효과적으로 평가하는 방법도 살펴본다.
그동안 영국 AISI는 평가를 위한 오픈 소스 프레임워크를 공개하고, 주요 기업의 네 개 대형언어모델을 테스트한 결과를 보고했으며, 여러 차례 사전 배포 테스트를 수행했다. 독립적인 평가가 ‘인증’ 기능(즉, 특정 시스템이 ‘안전하다’는 확실한 보증을 제공하는)을 수행하기에는 AI 안전에 대한 과학적 연구가 너무 초기 단계에 있다고 생각하지만, 안전성을 개선하기 위한 최선의 노력이라고 본다.
이 블로그에 정리한 여러 논점과 그동안의 경험으로 얻어진 교훈은 향후 11월에 국내에 개설하는 AI 안전연구소의 업무를 정립하고 프로세스를 셋업하는데 많은 참고가 될 것이다.
4. 코히어(Cohere), 다국어를 위한 AI 모델 아야(Aya) 익스팬스 발표
캐나다 토론토에 소재한 AI 기업 코히어(C4AI)가 기존에 발표한 오픈 웨이트 모델 아야의 익스팬스 모델을 발표했다. 코히어는 구글 트랜스포머 논문 저자 중 한 명인 에이단 고메즈가 토론토 대학 출신 개발자들과 함께 창업한 회사이다. 시작부터 다국어 지원을 내세우고 전 세계 119개 국가의 3천 명이 넘는 연구자들이 참여해서 언어 격차를 줄이기 위한 오픈 사이언스 프로젝트인 아야는 가나 말로 ‘고사리’를 의미한다.
이번에 발표한 익스팬스 8B와 32B는 허깅페이스에서 다운로드가 가능하며 23개 언어에서 높은 성능 개선을 보였다. 이미 지난 2월에 130억개 파라미터를 갖고 101개의 언어를 지원하는 아야101을 발표했었다. 이번 발표는 5억 1,300만 개의 예시로 구성된 현존하는 최대 규모의 다국어 데이터 세트 컬렉션인 아야 컬렉션과 다국어 성능 및 안전성에 대한 중요 평가 세트를 포함한다.
8B 모델은 젬마 2 8B, 라마 3.1 8B, 미스트랄 8B보다 성능이 낫다고 한다. 이 모델은 합성 데이터에 의존할 때 발생하는 횡설수설을 피하고자 데이터 차익거래라는 데이터 샘플링 방법을 사용했으며 ‘글로벌 선호도’로 가이드를 줘서 다양한 문화적, 언어적 관점을 고려하는 데 중점을 두었다고 한다.
기존의 선호도 학습이나 안전 조치가 서구 중심 데이터셋으로 이루어진 문제점이 보이고 다국어 환경으로 확장할 필요가 있었기 때문에 이 모델은 다양한 문화적, 언어적 관점을 고려하여 선호도 교육을 대규모 다국어 환경으로 확장한 최초의 연구라고 볼 수 있다. `
이 연구가 의미 있는 것은 우리가 소버린 AI나 포용적 AI를 얘기하면서 각 언어나 문화권에 따른 독자적 모델 개발의 필요성을 얘기하는 가운데 더 넓은 문화적 배경을 갖춘 모델을 전 세계 엔지니어가 공동으로 개발하는 것이 가능할 것이며 그 성능이 기존 모델을 넘어설 수 있을 것인가 대한 의문에 대한 도전으로 볼 수 있기 때문이다. 웹페이지에서 강조하는 참여자와 데이터셋, 언어, 인간 주석 등을 보면서 이런 노력이 한 회사를 통해서 이루어지고 있다는 것에 큰 의미를 줄 수 있다.
5. 덴마크 선도적 소버린 AI 슈퍼컴퓨터 출시
엔비디아의 창립자 겸 CEO인 젠슨 황이 덴마크 국왕과 함께 양자 컴퓨팅, 청정에너지, 생명공학 및 기타 분야에서 덴마크 사회와 세계를 위한 혁신을 목표로 하는 덴마크 최대 규모의 국가 주권 AI 슈퍼컴퓨터를 출시했다고 엔비디아가 밝혔다.
덴마크 신화의 여신 이름을 딴 게피온(Gefion)이라는 AI 슈퍼컴퓨터는 1,528개의 엔비디아 H100 텐서 코어 GPUdhk 382개의 인텔 제온 플라티늄 CPU로 구동되고 엔비디아 퀀텀-2 인피니밴드 네트워킹으로 상호 연결되는 엔비디아 DGX 슈퍼포드(SuperPOD)이다. 게피온의 개발에는 아토스 그룹에 속한 에비덴(Eviden)이라는 기업이 참여했다.
게피온은 자선 재단인 노보 노디스크 재단과 덴마크 수출투자기금의 자금으로 설립된 덴마크 AI 혁신 센터(DCAI)에서 운영한다. 게피온은 자체 소버린 AI를 구현하고자 하는 나라들에는 중요한 마일스톤이 될 전망이다. 흥미로운 점은 단지 자국의 언어나 문화를 강조하는 것이 아니라 세계적인 문제인 전염병, 기후 변화, 식량 안보 등의 문제를 풀고자 하고 이를 통해 덴마크 산업에 새로운 활력을 불러일으키고자 한다는 점이다.
예를 들어 덴마크 기상청(DMI)은 더 빠르고 정확한 일기예보 제공을 위해 이 기술을 시범 운영 중이다. 코펜하겐 대학교의 연구원들은 양자 컴퓨터 회로의 대규모 분산 시뮬레이션을 구현하고 수행하기 위해 사용할 예정이고, 코펜하겐 대학교, 덴마크 공과 대학교, 노보 노디스크, 노보네시스는 질병 돌연변이 분석 및 백신 설계의 발견을 위한 다중 모드 게놈 기반 모델을 함께 연구하고 있다.
엔비디아의 발표에 따르면 게피온을 통해 연구원들은 엔비디아의 업계 전문가들과 협력하여 제약 및 생명공학 연구, 엔비디아 BioNeMo 플랫폼을 사용한 단백질 설계 등 복잡한 문제에 대한 솔루션을 공동 개발할 수 있다.
6. 기타
LLM(거대언어모델) 결과물 식별을 위한 확장 가능한 워터마킹
구글이 발표한 논문으로 지연 오버헤드를 최소화하면서 텍스트 품질을 보존하고 높은 감지 정확도를 구현하는 제품 수준의 텍스트 워터마킹 체계인 SynthID-Text를 소개한다. 보통 텍스트 워터마킹은 생성 프로세스 중에 삽입(생성형 워터마킹), 이미 생성된 텍스트를 편집하거나(편집 기반 워터마킹), LLM의 학습 데이터를 변경하여(데이터 기반 워터마킹) 수행할 수 있다.
이 연구에서는 이전의 생성형 워터마킹 구성 요소를 기반으로 하지만 새로운 샘플링 알고리듬인 토너먼트 샘플링을 사용하는 생성형 워터마킹 체계인 SynthID-Text를 제안한다. 생성형 워터마킹 방식은 일반적으로 랜덤 시드 생성기, 샘플링 알고리듬, 스코어링 기능의 세 가지 구성 요소로 이루어져 있다.
연구자들은 검증을 위해 실시간 제미나이 상호작용에서 약 2,000만 건에 달하는 대규모 사용자 피드백 평가를 통해 왜곡 없는 SynthID-Text가 텍스트 품질을 보존한다는 사실을 경험적으로 입증했다.
이 연구는 일단 텍스트 생성에 워터마킹을 넣고 이를 탐지하는 것이 실제 활용할 수 있는 수준으로 확장 가능하다는 것을 보였다는 점에 큰 의미가 있다.
신경망을 재설계하고자 하는 리퀴드 AI
MIT 출신들이 만든 리퀴드AI가 적응력이 뛰어나고 에너지 소비가 훨씬 적고, 더 투명한 AI 모델을 선보였다. 삼성과 쇼피파이가 투자했다고 한다. 창업자인 라민 하사니는 토양이나 썩은 초목에서 발견되는 1밀리미터 길이의 벌레인 C. 엘레간스에서 영감을 얻었다고 한다. 이 벌레는 수백 개 수준의 뉴런을 갖고 있지만 놀랍도록 복잡한 동작을 할 수 있다.
리퀴드 신경망은 시간에 따른 행위를 예측하는 방정식으로 제어하며, 네트워크는 연결된 방정식의 연속을 풀어낸다. 2020년에는 19개의 뉴런과 253개의 시냅스로만 구성된 네트워크가 현대의 기준으로는 매우 작은 시뮬레이션 자율 주행 자동차를 제어할 수 있음을 보였다. 기존의 파운데이션 모델의 여러 문제를 넘어서려는 노력은 계속되고 있다.
오픈AI의 차기 모델이 올해 안에 등장한다
IT 매체 '더 버지'에 따르면 오픈AI가 올 12월에 '오라이온'이라는 모델을 소개할 것이라고 한다. 챗GPT 2주년을 맞아 공개하려고 한다는 오라이온은 GPT-4의 후속 모델로 GPT-4 성능의 100배 더 강력할 것이라는 소문이 있는데, 샘 올트먼이나 회사 대변인은 이 소식을 부인했었다.
그러나 9월에 올트먼이 엑스에 올린 트윗을 보면 겨울의 대표 별자리인 오리온 좌를 의미한다는 추정에서 이미 9월에 학습을 마친 것으로 보인다는 것이 더 버지의 추측이다. 또한, 마이크로소프트도 애저 클라우드에 오라이온 모델을 준비 중이라는 보도가 나오고 있다.
|
