Google을 떠난 엔지니어의 고백: "제가 만든 도구가 AI를 더 빠르게 만들고 있었습니다"
한눈에 보는 요약
뉴질랜드에서 Google의 칩 설계 도구를 개발하던 엔지니어 Robert O'Callahan이 회사를 떠났습니다. 이유는 단순하지만 무겁습니다. 자신의 일이 결과적으로 AI 발전을 가속하고 있고, 지금의 속도는 사람들이 이해하고 적응할 수 있는 수준을 이미 크게 넘어섰다고 판단했기 때문입니다.
참고로 O'Callahan은 개발자들에게 익숙한 이름입니다. 리버스 디버깅 도구 rr과 Pernosco의 개발자이기 때문입니다.
"무해한 일"이라고 생각했던 업무
그는 처음에는 자신의 업무가 비교적 무해하다고 여겼습니다. AI 모델을 직접 만드는 것이 아니라, 하드웨어 칩을 설계하는 도구를 개선하는 일이었으니까요.
하지만 생각을 바꾸게 된 지점은 다음과 같습니다.
- 그 도구의 주된 영향은 새로운 종류의 AI 칩 설계를 가속하는 데 있었음
- 성공하면 AI는 더 저렴하고 빨라지고, 그만큼 널리 쓰이게 됨
- 더 많은 추론(inference) 토큰을 쓸 수 있게 되므로, 결국 AI의 능력 향상에도 기여하게 됨
즉, 모델을 학습시키지 않아도 "비용과 지연 시간을 줄이는 일" 자체가 AI 가속의 핵심 고리였다는 이야기입니다. 그는 팀의 최종 목표가 지금 사람들에게 좋은 일이라고 믿을 수 없어, 결국 사직 이메일을 보냈습니다.
흥미로운 점은 그가 동료, 근무 환경, 높은 보수 모두에 만족하고 있었다는 사실입니다. 게다가 뉴질랜드에서 Google 수준의 조건을 다시 얻기는 어렵다는 것도 알고 있었습니다. 그래서 오히려 결정에 충분한 확신을 갖고자 했다고 말합니다.
왜 "팀 이동"이 답이 아니었나
보통 이런 상황이라면 다른 팀으로 옮기는 선택지를 떠올리게 됩니다. 하지만 현실적인 제약이 있었습니다.
- Google은 뉴질랜드에 엔지니어링 조직을 두는 것을 선호하지 않음
- 그가 옮겨 갈 수 있는 다른 엔지니어링 팀이 아예 없었음
- Google DeepMind 내부에서 영향력을 행사해 상황을 개선하는 방안도 검토했지만, 효과가 크지 않을 것으로 봄
그는 회사 밖에서도 충분히 목소리를 낼 수 있다고 판단했습니다. 떠나는 과정도 갑작스럽지 않았습니다. 고용주에 대한 정직함 때문에 상사의 상사에게 "이 프로젝트의 성공을 바라기 어렵다"는 점을 미리 알렸고, 동료에 대한 존중으로 업무를 합리적인 상태로 인계했습니다. 신앙적 판단 또한 결정에 작용했다고 밝혔습니다.
AI 위험을 보는 그의 시각: "확실하지 않다는 것이 바로 문제"
이 글에서 가장 눈여겨볼 부분은, 그가 파국을 확신하는 비관론자가 아니라는 점입니다.
- 초지능 AI(ASI)가 파국을 초래할 확률이 100%라고 생각하지는 않음
- 그러나 위험이 실제로 존재하면서 동시에 불확실하다는 사실 자체를 매우 심각하게 받아들임
- 따라서 위험 최소화에 막대한 노력을 기울일 도덕적 의무가 있다고 봄
- 가까운 미래에 ASI를 목표로 삼는 것 자체가 무책임할 만큼 위험이 크다고 판단함
근거로는 비관론자들이 예측했던 현상들이 실제로 관측되고 있다는 점을 듭니다. 보상 해킹(reward hacking), 정렬(alignment) 실패, 기만적으로 행동하는 모델, 자신이 평가받는 상황임을 인식하는 모델 등입니다.
실존적 위험만이 걱정거리는 아니다
그가 함께 우려하는 문제들도 정리해 볼 만합니다.
| 영역 | 우려 내용 | | --- | --- | | 인지 | 인지적 포기(cognitive surrender) — 스스로 사고하기를 그만두는 것 | | 정신건강 | AI로 인한 정신증, 외로움 | | 사회·정치 | 권력 집중, 책임성 부족 | | 경제 | 경제적 혼란 | | 보안 | 사이버보안 |
반대편의 편익은 어떨까요? 그는 AI의 잠재적 편익이 아직 매우 불명확하다고 봅니다. 지금 당장 내기를 해야 한다면 "피해가 편익보다 클 것" 쪽에 걸겠지만, 그 판단에도 불확실성이 있다는 점을 솔직하게 인정합니다.
"경고하는 사람들은 진심이었다"
AI 위험론에는 "결국 주가를 띄우거나 경쟁사를 규제로 묶으려는 마케팅"이라는 냉소적 해석이 따라붙습니다. 내부에 있었던 그의 관찰은 이렇습니다.
- 대화한 Google DeepMind 구성원 거의 전원이 공개 발언 여부와 무관하게 진지하고 진실한 우려를 갖고 있었음
- 주가 부양이나 경쟁사 배제를 위해 위험을 과장한다는 확실한 증거는 보지 못했음
- 국가 차원과 국제 차원의 규제가 절실히 필요하다고 봄
- 경고하는 사람을 신뢰할 수 없다는 이유만으로 경고 자체를 무시해서는 안 된다고 강조 (이 대목에서 Russell Moore의 논의를 인용)
기술 낙관도, 기술 부정도 아닌 제3의 입장
그는 AI 회의론자들과도 선을 긋습니다. Ed Zitron이나 Cory Doctorow 같은 유명 비판자들이 AI를 "실제로는 작동하지 않는 일종의 사기"로 보는 듯하지만, 그는 AI가 실제로 작동할 것이라고 판단합니다.
- 개발이 계속되는 한 AI 능력은 꾸준히 향상될 것으로 확신
- 벤치마크 진전은 이전만큼 빠르거나 오히려 더 빠르게 보이고, 질적으로 새로운 능력도 계속 등장
- 설령 모델 발전이 당장 멈추더라도, 새로운 프롬프트와 하네스(harness)만으로 수년간 추가 능력을 끌어낼 수 있다고 봄
- 발전이 정체되거나, 패러다임 전환 없이는 복제 불가능한 인간의 인지 능력이 발견되기를 바라지만 그렇게 되리라 기대하지는 않음
그래서 그의 결론은 "AI는 가짜다"가 아니라 **"지금 속도가 지나치게 빠르다"**입니다.
속도가 문제인 이유
- 개인과 사회가 AI를 이해하고 적응하는 속도보다 개발 속도가 더 빠름
- 대학 진학처럼 몇 년 뒤를 내다보는 인생 계획을 이전 세대와 같은 방식으로 세우기 어려워짐
- 직접 겪은 PC, 인터넷, 스마트폰 전환에서도 이런 종류의 변화는 보지 못했음
- 산업혁명은 변화가 훨씬 느렸고, 기계가 직접 건드릴 수 없는 인간 활동의 영역도 넓었지만 지금은 그렇지 않음
그래서 다음은? — rr, Pernosco, 그리고 배낭여행
먼저 타이밍에 대한 해명이 있습니다. 이번 퇴사는 최근 화제가 된 다른 퇴사 사례나 "AI 속도를 줄이자"는 경고들과 무관합니다. 오래전부터 친구들과 떠나는 10일간의 배낭여행 전에 퇴사하려 계획했다는 것입니다. 코스는 뉴질랜드의 Abel Tasman과 Wangapeka입니다.
앞으로의 계획은 이렇습니다.
- rr과 Pernosco 유지보수 계속
- AI 에이전트의 디버깅 방식 연구 — AI 에이전트가 현재 코드를 어떻게 디버깅하는지, 디버깅 도구가 그 작업을 더 효과적으로 만들 수 있는지, 만들 수 있다면 어떤 방식으로 가능한지
- AI 에이전트를 활용해 취미 프로젝트 아이디어 구현
- 수익성이 불확실한 자체 프로젝트 아이디어 검토, 매력적인 기존 프로젝트 합류 가능성도 열어 둠
- 뉴질랜드에서 이러한 실천과 옹호(advocacy) 이어가기
무엇보다 "인간에게 이로운 것이 분명한 일"을 하고 싶다고 말합니다. 신앙은 AI에 대한 불안 속에서도 계속 일할 근거가 되었고(마태복음 24:45-46 인용), 자신에게 주어진 재능이 유용한 동안 최선을 다해 쓰겠다는 태도를 밝혔습니다.
개발자로서 남는 질문
이 이야기가 인상적인 이유는 그가 AI를 전면 거부하지 않는다는 점입니다. 오히려 AI 에이전트로 디버깅을 연구하고 취미 프로젝트를 만들 계획입니다. 다만 조건이 붙습니다. 인간에게 이롭고, 자신의 사고력을 유지하는 방식으로 신중하게 쓰겠다는 것입니다.
그의 퇴사가 던지는 질문은 결국 우리 각자에게도 돌아옵니다.
- 내가 만드는 도구의 두세 단계 뒤 영향까지 생각해 본 적이 있는가?
- "나 한 명 빠져도 달라지지 않는다"는 논리는 어디까지 유효한가? (그는 영향이 작지만 0은 아니라고 봤습니다)
- AI를 쓰면서 나는 인지적 포기를 하고 있지 않은가?
정답이 있는 질문은 아닙니다. 다만 AI 인프라의 최전선에서 일했던 사람이 이런 결론에 도달했다는 사실 자체는, 한 번쯤 멈춰 생각해 볼 만한 신호입니다.