반응형
AI makers... 제목을 다시 보니 참 재미있다. AI를 만든 이들이라...
그래 결국 인공지능은 사람이 만들었다. 사람에 의해 창조(?!)되었다고 볼 수 있는데, 너무 인간적이어서 놀랍기도 하고 두려운 마음도 든다.
AI를 사람이 만들었다는 자부심이 느껴지고, 한편으로는 책임감도 강조될 수 있다.
e북으로 읽어가면서 메모한 내용은 다음과 같다
>>>
겉보기에 힌턴과 카이 유는 닮은 점이 거의 없었다. (중략) 사회적 지위, 나이, 문화, 언어, 거주 지역 모두 다른 두 사람 사이에는 공통분모가 하나 있었다. 신경망을 향한 지대한 관심이었다.
힌턴은 바이두나 그 경쟁사들이 학자 출신 인재 몇몇을 영입할 때보다 회사 하나를 인수할 때 훨씬 더 큰 돈을 쏟아부으리라 판단했고, 제자들의 강력한 권유에 힘을 얻어 작게라도 창업을 하기로 마음먹었었다. 심층신경망(Deep Neural Networks)에서 따와 DNN리서치라고 이름 붙인 힌턴의 스타트업은 그렇게 탄생했다.
힌턴이 경매를 종료한 이유는 회사를 최고의 값에 파는 것보다 자신의 연구를 위한 최적의 정착지를 찾는 것이 더 중요하다고 생각했기 때문이었다. 힌턴이 4,400만 달러에 경매를 멈추겠다고 이야기하자 구글에서는 그가 농담하는 줄 알았다.
'퍼셉트론'은 로젠블라트의 설명을 능가할 만큼 퍼셉트론에 대한 아주 상세한 분석을 담고 있었다. 민스키와 페퍼트는 퍼셉트론의 가능성을 알고 있었지만, 그것의 결함도 파악했다. 퍼셉트론은 수학자들이 '배타적 논리합(exclusive-or)'이라고 부르는 난해한 개념을 처리할 수 없다는 것이었다.
민스키는 그런 인물이었다. 흥미로운 이야기를 꺼내 상대방이 여러 생각을 하도록 만들지만 알고 보면 검증되지도 않은 이야기를 무심하게 던져놓는 것뿐이었다.
힌턴은 제자 중에서 자신보다 좋은 아이디어를 더 많이 가지고 있는 학생으로 수츠케버를 유일하게 인정하게 됐다. 그리고 까만 머리카락을 바짝 깎은 채 늘 찡그린 표정을 하고 다니는 수츠케버는 자신의 아이디어에 가히 광적이라고 할 만한 에너지를 불어넣었다.
알파고가 유럽 챔피언인 판 후이에게 이겼다는 사실을 딥마인드가 공표하고 3주가 지나서 술레이만은 딥마인드 헬스(DeepMind Health)라는 프로젝트를 공개했다. (중략) 이제 술레이만의 목표는 NHS를 비롯해 세계의 의료 서비스를 재편할 수 있는 인공지능을 구축하는 것이었다.
술레이만이 처음으로 계획한 거대 프로젝트의 목표는 급성 신손상을 예측하는 시스템의 개발이었다.
마이크로소프트는 연결주의자를 최고의 연구자로 인정하지 않던 시기에 인공지능에 투자했다. (중략) 치 루는 "솔직히 말해 마이크로소프트 리서치의 고위직 전부가 신경망을 신뢰하지 않았죠. 그런 환경이었어요"라고 설명했다.
루는 자기 자신을 드물게 기술에 정통한 기술 부문 중역이자 전략가, 시스템 아키텍트, 세계 유수 연구소들에서 나온 연구 논문들을 섭렵한 선지자로 여겼다. 그리고 루는 자신의 아이디어를 예리하면서 약간 기묘한 기술적 문장으로 표현하는 재주가 있다. 예를 들면 다음과 같다.
- 컴퓨팅이란 정보를 목적에 맞게 조작하는 것이다.
- 데이터가 주요한 생산 수단이 되고 있다.
- 딥러닝은 새로운 기판상의 연산이다.
루는 "구글 직원들이 남들과 다른 물을 마신다는 게 아닙니다. 그 검색 엔진이 그들에게 일련의 기술적 도전 과제를 던져준 것입니다. 우리는 컴퓨팅의 미래를 볼 수 있는 위치에 자리 잡아야 합니다"라고 말했다. 루는 자율주행차 개발이 검색 엔진이 그랬듯 마이크로소프트의 미래를 풍요롭게 해줄 거라고 확신했다.
중국의 빅테크 기업들은 진작부터 딥러닝을 받아들였다. 수년 전부터 앤드루 응이 바이두의 연구소를 이끌면서 새 실험에 도움이 되도록 구글과 마찬가지로 방대한 전문적 기계 네트워크를 구축했다. (중략) 슈미트는 얼마 지나지 않아 자신의 메시지가 얼마나 순진했는지 깨달았다.
한국에서 이세돌이 알파고에 졌을 때, 인공지능과 인간 모두에게 그 사건은 즐거운 행사였다. 그러나 커제가 졌을 때에 중국 정부의 최고위층이 부각하고 싶지 않은 것, 즉 서양이 미래를 향한 경주에서 앞서고 있다는 사실이 부각된 것으로 받아들여졌다. (중략) 게다가 에릭 슈미트는 1국과 2국 사이에 30분 동안이나 중국과 그 최대 빅테크 기업들에게 과시하고 설교한 셈이다.
매티스가 구글 본사를 방문한 지 한 달여가 지난 9월 말, 구글은 메이븐 프로젝트에 참여하며 3년간 2,500만~3천만 달러 규모의 계약을 성사시켰다. (중략) 그러나 구글이 노리는 것은 따로 있었다. 같은 달, 펜타곤은 제다이(JEDI, 합동 방어 인프라) 사업 입찰에 여러 미국 업체를 초대했다. 10년간 국방부에 핵심 기술 실행에 필요한 클라우드 컴퓨팅 서비스를 공급하는 100억 달러 규모의 사업이었다.
이 대회로 알게 된 것은 현재 가장 민첩하게 작동하는 로봇조차 이 작업 수행이 어렵다는 사실이었다. 이 대회를 통해 업계에 필요한 것이 무엇인지 알 수 있었다. 즉, 아마존은 실제 현장에서 일할 수 있는 피킹 로봇(picking robots)이 절실하게 필요했던 것이다. 나중에 밝혀졌는데, 구글과 오픈AI에서 이 문제를 해결하기 위한 연구가 이미 진행 중이었다.
사람들 모두 머스크가 무엇을 믿고 있는지 잘 알고 있었다. 웃음소리가 잦아들자 머스크는 "우리는 초지능 또는 문명의 종말, 둘 중 하나를 향해 가고 있어요"라고 말했다.
와이 콤비네이터는 스타트업에 자문과 자금을 제공하는 대신 각 회사의 지분을 취득하는데, 알트만은 개인적으로도 몇몇 업체에 투자하면서 엄청난 부를 쌓았다. (중략) 알트만이 급격한 성장을 이루는 동안 동기 부여의 원천은 돈이었다. 두 번째 원천은 자신의 영향력 아래 있는 사람과 기업에 대한 권력이었다. 그리고 세 번째 원천은 더욱 넓은 세상에 실질적 영향을 미칠 기업을 육성하는 데서 얻는 만족감이었다. (중략) 머스크와 마찬가지로 알트만은 과학자가 아니라 사업가였다.
오픈AI의 사명은 AGI가 전 인류에게 유익한 것이 되도록 보장하는 것이다. 여기서 AGI란, 경제적 가치를 지닌 대다수 작업에서 인간을 능가하는 자동화 시스템을 말한다. 우리는 안전하고 유익한 AGI를 직접 구축하기 위해 노력할 것이나 우리의 연구 조력에 힘입어 타인이 그 목표를 성취한다고 할지라도 우리의 사명 역시 완수된 것을 간주한다.
알트만은 새로운 하드웨어를 얻고자 마이크로소프트와 그 신임 CEO 사티아 나델라와 거래를 했다. (중략) 나델라와 마이크로소프트는 오픈AI에 10억 달러 투자를 결정했고, 오픈AI는 그 돈의 대부분을 다시 마이크로소프트에 돌려주기로 합의했다. 마이크로소프트가 연구소의 시스템 훈련을 위한 새 하드웨어 인프라를 구축해줬기 때문이다. 나델라는 "우리가 추구하는 것이 양자 컴퓨터든 AGI는 저는 야망이 큰 북극성 같은 존재들이 필요하다고 생각합니다"라고 말했다.
수츠케버가 "정말 대단할 겁니다. 확실해요. (중략)". 그는 컴퓨팅의 쓰나미, 즉 인공지능이 수도 없이 늘어나는 현상이 발생할 거라고 주장했다. 그러면서 "이건 거의 자연 현상이나 마찬가지예요. 막을 수 없는 힘이죠. 그리고 워낙 유용해서 당연히 존재할 수밖에 없어요. 그럼 우리는 무엇을 할 수 있냐고요? 우린 조종하는 거죠. 이쪽저쪽으로 이동시키는 거죠"라고 설명했다.
하사비스는 "초지능이 아직 존재하지 않는 평온한 지금 이 시기를 이용해야 합니다. 수십 년 뒤에 상황이 심각해질 경우를 대비하면서 말이죠. (중략) 시간척도를 두고 이견은 있지만, 우리가 아는 한 AGI 구축을 막을 수 있는 물리 법칙은 존재하지 않아요"라고 덧붙였다.
2019년 3월 27일, 세계 최대 컴퓨터과학자 학술 단체인 미국 컴퓨터학회(ACM)는 힌턴, 르쾽, 벤지오를 튜링상 수상자로 발표했다. (중략) 상을 받은 세 연구자는 2000년대 중반에 신경망 연구를 부활시키면서 신경망을 테크 산업의 심장부로 밀어 넣었으며, 그 덕분에 이미지 인식을 비롯해 기계 번역, 로봇공학에 이르기까지 모든 것이 재탄생했다고 봐도 과언이 아니다.
제프리 힌턴의 연구는 그가 몸담은 대학에서조차 기괴하다고 여겨져 외면받았고, 대학 측은 스스로 학습하는 머신 개발을 향한 힘겨운 연구에 동참할 교수를 충원해달라는 힌턴의 요청을 수년간 묵살했다. 그는 그 이유를 이렇게 설명했다. “이런 연구에 목매는 미치광이는 저 하나로 족하다고 생각했겠지요.”_16쪽
힌턴은 “오래된 아이디어가 신선한 것이다”라는 말을 즐겨 했다. 이 말은 곧 과학자는 누군가 그것이 틀렸음을 입증하지 않는 한 하나의 아이디어를 절대로 포기해서는 안 된다는 말이다._70~71쪽
“당신은 악마입니까?” 세즈노스키가 질문했다. 민스키는 그 질문은 일축해버리고, 신경망의 한계를 설명하며 약속한 성과를 보여주지 못했다고 지적했다. 세즈노스키는 다시 물었다. “당신은 악마입니까?” 마침내 화가 잔뜩 난 민스키가 대답했다. “그래요, 전 악마입니다.”_112쪽
얀 르쿤은 “개방적이지 않고, 즉 다른 이들과 연구를 공유하지 않고 어떻게 연구를 할 수 있겠어요. 비밀을 유지하는 한 연구의 질은 떨어질 수밖에 없습니다. 최상의 결과를 끌어낼 수 없단 말입니다. 자신의 연구에 혁신을 불어넣을 누군가를 만날 수 없을 테니까요”라고 말했다. 심지어 기업의 기밀 유지 문화에 익숙한 제프 딘 같은 전문가도 개방성의 이점을 깨달았다._200쪽
그들은 특이점 회의를 통해 피터 틸에게 접근했다. 인터넷 전화 서비스 스카이프의 창업자 중 하나인 얀 탈린에게서도 투자를 끌어냈다. 얀 탈린은 곧이어 여러 학자와 함께 인공지능이 초래할 실존적 위험을 탐구하는 ‘생명의미래연구소’를 설립했다. 그리고 데미스 하사비스와 셰인 레그는 계속해서 인공지능 위험론을 새로운 사람들에게 전파했다._238쪽
트럼프 행정부가 이민 단속 강화에 나서자 그 즉시 인재 이동에 대한 우려가 더욱 고조됐다. 이미 하강 곡선을 그리고 있던 미국 내 국제 유학생 수가 이제는 급격히 감소하면서 해외 인재에 대한 의존도가 상당히 높은 미국의 과학계와 수학계가 수난을 겪기 시작했다. 시애틀 소재의 영향력 있는 앨런인공지능연구소의 CEO 오렌 에치오니는 “이건 우리 머리에 스스로 총을 쏘는 격입니다. 발등을 찍는 수준이 아니에요. 자살행위라고요”라고 말했다._308~309쪽
자신과 자신이 하는 일에 사람들의 이목을 끌어오는 것, 그것은 일론 머스크의 사업 수완이었다. 한동안 오픈AI에서도 그 방법이 제대로 효력을 발휘해 연구소가 이 분야 최고의 인재를 영입할 수 있었다._410쪽
>>>
챗GPT, 오픈AI, HBM, 엔비디아로 시끄러운 요즘... 시간을 되돌려 어디에서 이 모든게 시작되었는지 조금이나마 엿볼 수 있다.
인공지능 이론과 기술은 1900년대 초반에 반짝하다가, 굉장히 길고 긴 암흑기를 지나, 최근 5년간 비약적인 발전을 이루었다.
말 그대로 하드웨어의 높은 성능과 낮은 비용이 아니었으면, 지금의 신경망 노가다는 불가능했을 것이다.
AI 역사에 있어 핵심 인물, 기업, 연구소, 배경, 결정 등이 잘 담겨있는 책이다.
몰입감 있게, 상당히 만족스럽게 읽었다.
그러다보니 메모한 내용도 많은 편이다.
이 책을 읽는 도중에, Andrew Ng 교수의 강의, 젠슨황 CEO의 인터뷰 등 다양한 콘텐츠도 함께 보게 되었다.
AI 업계 사람들을 만나 얘기를 들어보고 싶다.
살아 숨쉬는 이야기가 궁금하다.
지각 변동의 현장에 있다고 생각하니 흥분되고 짜릿하다.
부정적인 감정보다는 긍정적, 미래지향적 상상력이 나를 더 자극한다.
LLM이 온라인 경부고속도로가 될까?
그 넓은 도로에 차량 몇 대 지나지 않을 것이라고 예상한 자들 vs. 그 넓은 국도 덕분에 경제 번영이 가속화될 수 있다는 사람들.
10~20년은 지나야 결론을 알 수 있듯이, 지금 광기에 가까운 AI 투자는 당장 판단하기는 어렵다.
2040년 오늘, 아마도 2022~23년을 제대로 역사적으로 바라볼 수 있을 것이다.
우린 이미 tipping point를 넘었는지도 모른다.
즉, 그 이전의 상태로 돌아갈 수 없다.
다만, 그 이후의 상태에서 계속 변화할 수 있을 뿐이다.
미중 간의 AI 헤게머니 경쟁도 기대된다.
내 나이 40대이지만, 깨어있는 상태로 이 거대한 변화를 가까이서 보고 싶다.
그 안에 뛰어들 수 있을지는 모르지만, 나중에 많은 후회는 하고 싶지 않다.
surfing AI !!
반응형
