LG

김명신 국가 간의 여러 가지 이슈에 따라서는 그런 최고 성능의 AI 모델들이 정지연 어느 날 갑자기 한국에는 (지원) 안 해줘 이러면 저는 당장 내일부터 생산성이 뚝 떨어질 거거든요. 그런 상황이 안 올 거라는 보장은 없는 거예요. AI는 이제 기술을 넘어 ‘국가 생존’의 문제 김명신 국가 차원에서 반드시 아주 좋은 고성능의 AI 모델을 확보해야만 한다고 생각되는 것 같아요. 김영진 팔로워만 되면 안 되고 저희도 프런티어가 되어야 한다고 생각합니다. 조현직 저희팀은 K-엑사원을 세계에서 1등을 만들고 싶다는 마음을 다 가지고 있습니다. Teammate 국가대표 AI를 만드는 사람들 조현직 언제까지 해줄 수 있어요? 조현직 밥 먹기 전까지 하면 제일 좋은데 조현직 밥을 언제 먹는지 난 모르겠어. 일주일은 밥을 안먹을 수 있어 밥을 언제 먹을지 모르겠지만 밥 먹기 전까지 일단 하는 걸 목표로 했을 때 근데 그러면 퀄리티가 또 떨어질 수 있으니까 그래도 좀 알려주세요. 사실 얼마나 걸릴지 저도 잘 모르겠어요. 조현직 저는 조현직이라고 하고요. 조현직 K-엑사원 같은 경우는 국가대표 AI 프로젝트로 인해서 만들어지는 모델입니다. 조현직 구체적으로(제 역할은) K-엑사원 모델이 어떻게 하면 빠르게 그리고 성능이 좋게 학습을 할 수 있을 것인가를 설계하는업무를 담당을 하고 있고요. 정지연 LG AI연구원의 정지연이라고 합니다. 정지연 AI 학습에는 정말 많은 상상을 초월하는 연산량이 필요하기 때문에 GPU라는 하드웨어가 필요한데 수십 또는 수백 대의 서버를 모아서 마치 하나의 아주 큰 컴퓨터처럼 구동할 수 있게끔 개발 환경 같은 걸 구축해 드리고 혹시라도 그 하드웨어에 문제가 생겼을 때 이슈를 해결하는 역할을 하고 있습니다. 김영진 AI 모델을 활용해서 서비스를 개발하는 백엔드 엔지니어 김영진입니다. 김영진 실제 유저에게 맞닿는 부분을 구현하는 팀이어서 AI 모델의 데이터를 어떻게 잘 보여줄 것인가 어떻게 잘 제공할 것인가에 대한 고민을 좀 치열하게 하고 있는 부서라고 생각해 주시면 됩니다. 김명신 AI 윤리, 정책 담당하는 김명신이라고 합니다. 김명신 AI 모델이 생성하는 답이 옳은지 틀린지 기준을 잡는 역할이라고 보시면 될 것 같아요. 조현직 K-엑사원 팀을 요리에 비유를 하면 프렌차이즈 레스토랑인데 농장에 해당하는 게 지연 님이라고 생각이 되고요. 식재료들을 가지고 와서 제가 오너 셰프로서 요리를 하게 되고 디저트에 데코레이션하고 플레이팅 같은 것들을 하는 것이 영진 님이라고 보여지고요. 명신 님 같은 경우는 제가 김치를 재사용하려고 할 때 ‘김치를 재사용하는 것은 안 됩니다’ 역할이라고 봐주시면 될 것 같습니다. 김영진 K-엑사원(팀)은 독파모(독자 AI 파운데이션 모델 프로젝트) 평가를 위해서 모델과 서비스 그리고 인프라까지 /묶인 태스크포스 팀이라고 생각해 주시면 될 것 같고 ‘독자 AI 파운데이션 모델 프로젝트’ 한국형 독자 AI 모델 개발을 위한 국정 과제로 국내 5개 팀 중 경쟁 끝에 최종 2개 팀을 ‘국가대표 AI’로 선정하는 프로젝트 조현직 ‘독자 AI 파운데이션 모델 프로젝트’는 저희끼리 뭐 줄여서 독파모라고 얘기를 많이 하게 되는데요. 정부에서 펀딩을 해서 우리나라 기업들이 글로벌 AI 기업들과 경쟁할 수 있는 수준에 도달할 수 있도록 도와주는 사업이라고 봐주시면 될 것 같습니다. 과학기술정보통신부, 1차 단계평가 결과 브리핑 이번 1차 단계 평가 결과를 말씀드리겠습니다. LG AI연구원이 총 90.2점으로 가장 우수한 평가를 받았고 5개 정예팀의 평균은 79.7점이었습니다. 조현직 1차 평가 결과는 압도적으로 1등을 했습니다. 세 가지 평가가 있었는데요. 전문가 평가, 사용자 평가 그리고 객관적인 성능을 지표로 하는 벤치마크 평가가 있었습니다. 그 세 가지 평가 모두에서 저희가 1등을 하게 됐고요. 조현직 굉장히 고난도 수학 문제 올림피아드 문제를 평가하는 것들이 있었고 한국어와 관련된 평가도 있습니다 한국어 역사와 문화를 좀 잘 아는지 아니면 편향된 어떤 답변을 하는지 이런 부분들에 대한 평가도 있었고요. PD 1등 할 수 있었던 이유가 있다면? 조현직 1위를 거둘 수 있었던 이유는 1등을 하도록 준비했습니다. 조현직 초거대 모델이라는 것이 한두 번 이 정도까지밖에 학습하지 못할 만큼 굉장히 많은 시간이 들고 자원이 들어갑니다. 하루만 줄이게 된다면 비용을 한 10억, 20억 가까이도 줄일 수 있을 만큼 그 비용이 많이 드는 업무들을 이제 최적화하는 것들이 중요한데요. 조현직 (그래서) 실험의 횟수를 굉장히 효율적으로 줄여야 해요. 조현직 예를 들어 K-엑사원에서는 / AGAPO(Asymmetric Sampling and Global Advantage Policy Optimization) 라는 알고리즘을 새롭게 보완해 적용했습니다. 기존 GRPO(Group Relative Policy Optimization)는 모든 답이 정답이거나 오답인 경우는 해당 샘플이 학습에 도움이 되지 않는다고 판단하여 학습 과정에서 제외합니다. 조현직 반면 AGAPO에서는 모든 응답이 오답인 샘플도 버리지 않고 활용을 하는데요. 모델이 실수를 통해서도 더 정확한 정답을 찾도록 만들어내는 방식입니다. 조현직 이를 통해서 동일한 장비로 훨씬 빠르게 추론을할 수 있었고요. 장비를 절대 쉬게 하지 않았어요. 사람은 잘 수 있지만 장비는 잠을 자면 안 됐습니다. 그래서 장비는 24시간 내내 계속 돌아갈 수 있도록 스케줄링했고요. 정지연 멈추면 학습은 시작도 못 하니까 정지연 새벽 3시, 4시 진짜 자는 시간에 혹시라도 문제가 생겨서 아침에 일어났는데 몇 시간 안 돌아 있어 너무 아까워요. 정지연 수염은 연출이에요? 조현직 오늘 잘랐는데 자란 것 같아요 조현직 디스크는 좀 물어봐야 할 것 같고 다음에 이슈가 나왔을 땐 어떻게 해야 될지 모르겠어요. 정지연 최소한 학습에 쓰는 GPU 인터페이스는 어느 정도 안정화됐다고 봐요 조현직 어제 지연 님이 많이 고생해 주셔서 정지연 아니죠 현직님이 이슈 도출해 주시고 했으니까 조현직 (제가) 항상 밤이고 낮이고 주말이고 새벽이고 정지연 제가 현직님이 그렇게 일을 하고 계시는 걸 알기 때문에 조현직 놀러 가더라도 노트북 항상 들고 다니잖아요. 정지연 저도 항상 들고 퇴근합니다. 조현직 장애가 언제 날지 모르기 때문에 정지연 엄마 집에 가도 들고 다니고요. 사실 여행 갈 때도 사실 들고 가요. 혹시라도 여행 가가지고 시스템 문제가 생겼는데 당장 쓸 수 있는 컴퓨터가 없거나 하면 이제 문제 해결을 못하니까 엄청 초조하거든요. 그래서 차라리 맘 편히 노트북 들고 어디든 인터넷이 되는 환경으로 갑니다 PD 진행하면서 가장 어려웠던 점은 무엇이었나요? 조현직 신경을 많이 썼던 것은 사용자들의 평가였어요. 김영진 설정이 가능한 전문가용 모듈을 출시하면 좋을 것 같다고 생각했어요 K-엑사원을 조금 더 자율적으로 활용할 수 있는 방안을 더 구상해보면 좋을 것 같습니다. 그래서 저희가 프롬프트를 더 다듬고 믾은 시행착오를 거쳐야 할 것 같긴 해요 사용자들이 K-엑사원을 처음 딱 써본다고 했을 때 내가 어떤 게 불편했고, 어떤 기능을 제공하면 좋을까에 대한 고민을 많이 했었어요 두 가지가 꼭 필요하다고 생각을 했는데 <엑사원 사용 화면 나오고> 처음 써첫 번째는 이제 어떤 질문을 저희가 제안해 주는 겁니다. 예를 들어 ‘오늘 날씨를 뭐 일주일 날씨를 알려줘’ 아니면 뭐 ‘내가 어디에 카페를 개업하려고 하는데 투자 자금이 얼마나 들까’ 하는 이런 실제적인 질문을 미리 고객한테 제공함으로써 추천 프롬프트를 제공한 게 좀 주요했다고 생각합니다. 그리고 두 번째로는 질문을 계속 이어가다 보면 이제 몇십 개에서 몇백 개씩 쭉 쌓일 수 있을 텐데 ‘내가 어제 무슨 질문을 했더라’라고 궁금할 때가 있잖아요. 어떤 질문을 했는지 내가 찾기는 어려우니까 그것을 빠르게 검색할 수 있는 검색 기능을 저희가 고민하고 구현을 했습니다. 김영진 평가자에게 K-엑사원은 필요한 기능을 제대로 제공하는구나라는 좋은 인상을 들었던 것 같고 그게 결국 평가로 이어진 것 같습니다. PD K-엑사원이 가진 강점은 무엇이라고 생각하시나요? 김영진 윤리적인 부분에서 굉장히 지켜야 할 것을 지키며 제대로 만들어진 모델이라는 것을 좀 말씀드리고 싶어요. 김명신 AI에 물어봤을 때 여러 가지 것들을 답변을 하게 만들 수 있잖아요 예를 들면 폭탄을 제조하는 방법이라든지 그런 것들을 함부로 알려주게 되면 악용 혹은 오용의 대상이 될 수 있기 때문에 이런 질문에 대해서 어떻게 적절하게 답을 이끌어갈 수 있을지 그런 것들을 정책적으로 마련하고 김명신 한국이기 때문에 갖는 특수한 그런 이슈들이 있잖아요 예를 들면 한반도 안보 관련된 북한과 관련된 이슈라든지 /이념적인 그런 갈등 그리고 그로 인한 여러 가지 파생된 문제들이 있기 때문에 김명신 그런 한국적 특수성을 담아내는 벤치마크를 만들어냈다는 게 굉장히 큰 차별점이라는 생각이 들고 김명신 이런 차별점을 적용한 K-엑사원이기 때문에 김명신 실제로 1차 평가에 평가자분들한테 좋은 평가를 받았다고 생각합니다. 김영진 (1차 평가) 평균적인 점수를 냈을 때 세계적인 오픈AI나 엔트로픽, 제미나이 등과 같이 저희가 10위 안에는 들은 것으로 알고 있습니다. 사실 미국이나 중국의 자본력이 워낙 강력하기 때문에 라이트급 복서가 헤비급 복서랑 거의 지금 대등하게 경쟁하고 있다고 생각하시면 될 것 같습니다. 조현직 딥시크라는 모델이 중국에서 출시됐을 때 2480장의 GPU로 미국 비슷한 사이즈의 모델을 만들었다. 굉장히 효율적으로 돈을 덜 들이고 만들었다. 이제 GPU를 많이 쓸 필요 없다고 했거든요. 그런데 저희는 512장으로 만들었습니다. 정지연 GPU라는 자원이 많으면 많을수록 많은 많은 (AI 학습) 시도를 할 수 있는 거예요. 정지연 인프라 측면에서는 그거는 정말 물리적인 차이라서 그걸 따라잡기는 방법이 없어요. 정말 서버가 1 대 있냐 100대 있냐 차이기 때문에 대신 현직 님이 많은 고생을 하고 계시죠 없는 자원에 쥐어짜서 그래도 근접한 아웃풋을 내기 위해서 좋은 방법도 찾아보시고 어디서 뭐가 좋다고 하면 그런 거 빨리 캐치업해서 적용해 보시고 하는 걸로 알고 있어요 조현직 밤 사이에 SNS에 계속 뭔가 올라와요. 연구 관련 내용들이 올라오고 사람들이 어떤 것에 많이 반응하고 주로 뭐를 관심 있어 하는지를 체크를 합니다. 이게 좀 중요한 게 다른 회사에 있는 연구자들도 자기가 뭘 하고 있는지를 올려요 예를 들어 오픈AI 같은 좀 앞서 있다고 예상되는 그런 곳들에서 현재 뭐에 집중하고 있는지 좀 알 수가 있거든요. 업무적인 특성상 어쩔 수 없는 것 같아요. 이게 뒤처지면 바로 승자 독식 구조이기 때문에 계속 이렇게 이동을 하거나 아니면 잠깐 앉아서 쉬는 동안 핸드폰으로 간단히 훑어보면서 확인을 하는데요. 그래서 제 아내가 핸드폰을 왼손에다 이식했냐라고…핸드폰을 매번 들고 다니니까 조현직 모델을 만들고 있다보면 모델을 만드는 기간 내에 경쟁 모델들이 계속 쏟아져 나오거든요 새롭고 강력한 모델들이 많이 나와서 현재 우리 모델이 경쟁력이 있는지 어떻게 하면 개선할 수 있을지를 논의할 예정입니다 조현직 사실상 저희가 하는 시도들이 돌 던지는 거에 가깝긴 한데요. 예를 들어 인프라가 4배의 차이가 난다고 예를 들어보면 실패를 저희보다 네 번 더 할 수 있는 거거든요. 정지연 저희 같은 경우는 그 정도 인프라 자원은 없거든요. 조현직 그러면 저희에게 주어진 거는 실패를 하면 안 된다는 의지, 의지의 힘으로 어떻게든 실험을 최적화하고 정지연 K-엑사원 팀이 한정된 리소스 안에서 최고의 아웃풋을 내기 위해서 많이 노력하고 있는 것 같아요. PD 2차 평가가 예정되어 있는데요 어떻게 준비하고 계신가요? 조현직 마찬가지로 좀 준비하고 있어요. 마찬가지라고 하는 건 굉장히 치열하게 준비하는 건데요 1차 평가를 통해 각 기업들이 가지고 있는 기술이 어느 정도인지 다 나왔거든요. 우리의 정보가 어느 정도 알려진 상태에서/다른 경쟁자를 이기려면 그들이 생각하는 이상을 해야 된다고 생각을 합니다. PD 평소에 미팅이 많은 편인가요? 김영진 네, 꽤 있는 편이에요. 하루 평균 2~3개는 기본으로 있습니다 조현직 2차 수 얘기를 할까요? 김영진 프롬포트 제안 같은 걸 조금 더 고도화한다든가 하는 방식도 괜찮다고 생각했어요. 김영진 프롬프트만 저희가 깎으면 될 것 같고 그부분에서는 전혀 문제가 안 될 것 같아요. 조현직 좋은 제안인 것 같습니다. PD 저기 일상 질문 같은 건 사람들이 많이 하는 질문들 예시로 들어가는 건가요? 조현직 그래서 주식 같은 게 좀 있어요. 이제 제가 뭐 계산하기 어렵잖아요. a 주식을 매수한다고 하면 주식 상승 5%면 돈 얼마일까 / 그게 진짜 맞는지 몇 번에 걸쳐서 확인을 하거든요 그래서 답변을 해주게 됩니다. 김영진 (2차 평가는) K-엑사원 모델 서비스의 장점을 부각시킬 수 있는 방향으로 개발을 하려고 합니다. 특히 요즘은 모델의 성능뿐만 아니라 웹에서도 다양한 정보를 끌어와서 모델의 답변 품질을 향상시키는 웹서치라는 기능을 많이 제공을 하는데 현재 저희도 이 기능을 준비하고 있고 이미 PoC도 끝나 있는 상태라서 이부분에 대해 어떻게 고도화를 할 수 있을까 고민을 해보고 있습니다 김명신 사실은 AI가 더 발전하고 새로운 위험들을 계속 가져오고 있어 가지고 실제로 연구하고 개발하시는 입장에서 보셨을 때 어땠는지 좀 얘기해 주시면 더 좋을 것 같아요. 희연 이번에 밀라노 올림픽에서 저희 국기가 잘못 게양이 됐어요. 태극 문양이 반시계 방향으로 돌아간 태극기를 계속 게양해서 우리 대한체육회에서 말해서 이제 시정이 됐거든요. (위험체계가) 텍스트뿐만 아니라 멀티모달로 확장이 될 수 있지 않을까 이런 포인트들도 고려가 필요할 것 같습니다 김명신 비전 언어 모델이라고 해서 이미지를 보면 이제 AI가 인식하고 그거에 대해서 답해주는 게 되거든요. 비전 언어 모델 자체가 잘못 게양된 태극기 같은 것들을 비전 언어 모델에 넣고 이거에 관해서 설명해 달라고 했을 때 ‘지금 이 태극기가 바른 모습이야’ 라고 하면 이게 잘못된 대답인 거잖아요. 그래서 그런 문제들을 잡아낼 수 있으려면 (2차 평가) 위험 분류 체계에도 이런 것들이 들어가야겠다. 김명신 지금 만들어진 위험분류 체계가 아직 부족한 부분들이 있을 수 있기 때문에 남은 시간 동안 여러 전분가분들과 각계각층의 다양한 의견을 모아 보완하는 작업을 진행하려고 하거든요 유네스코 AI 윤리 권고를 이행하고 지속적으로 협업하고 있는 LG AI연구원 김명신 국가대표 AI 모델이라고 하면 당연히 이제 한국적 특성이 반영이 돼야 할 테고 실제로 글로벌 빅테크에서 이런 부분들을 놓치고 있다고 하니까 (K-엑사원이) 채울 필요가 있지 않을까 생각했어요 강상규 / 유네스코 의제정책센터 센터장 AI 윤리 자체도 어떻게 보면 지역적 특수성에 따라서 달라질 수 있다고 하는 아이디어를 오늘 말씀해 주셔서 되게 새로 알게 된 부분이네요 김명신 가만히 앉아서 듣겠다고 생각하면 잘 아시잖아요. 그런 의견 주시는 경우가 많지 않잖아요. 그렇기 때문에 때로는 저희가 직접 찾아가서 조언을 구하고 어떻게 우리 기준에 반영할지에 대해서 고민하고 그런 일들이 중요하다는 생각이 계속 드는 것 같아요. PD K-엑사원, 최종 평가의 목표는 무엇인가요? 김영진 반드시 1등이고 역시나 만점입니다. 조현직 시간이 주는 축적되는 노하우라는 것들이 좀 있습니다. K-엑사원 팀이 이 프로젝트를 위해서 갑자기 마련된 조직이 아니라 계속해서 (엑사원이라는) 파운데이션 모델을 고도화하고 있었던 연구원의 멤버들이 있었기 때문에 바로 (독파모) 프로젝트에 적용할 수 있는 모델을 만들어낼 수 있었다고 생각해요. 정지연 LG AI연구원은 3년, 4년 가까이 / 뚝심을 가지고 벌써 몇 년간 그 경험치를 쌓아왔기 때문에 김명신 아프리카 속담 중에 빨리 가려면 혼자 가지만 멀리 가려면 같이 가야 한다는 속담이 있거든요. 우리가 지금 해야 하는 최고 성능의 AI 모델 개발이 ‘과연 끝이 있을까’라는 생각이 들거든요. 그렇기 때문에 혼자 가면 지칠 수밖에 없을 것 같고 같이 가야지 어디가 끝인지 모를 이 여정을 할 수 있지 않을까라는 생각이 드는 것 같습니다. 정지연 각자 분야의 전문가들이 모여서 엄청난 시너지를 낼 수 있는 그게 바로 팀이고 팀 메이트가 아닌가 /이런 사람들이 모여서 같이 일을 하니까 1차 평가에서 K-엑사원으로 국가대표 1등을 할 수 있는 좋은 결과가 나온 거잖아요. 조현직 계속해서 1등을 할 거고요. 그걸 위해서 또다시 뼈를 깎아보겠습니다.