인공지능은 전기 먹는 하마 — 그래서 답이 무엇인가

얼마나 먹나

큰 데이터센터 하나가 쓰는 전기는 인구 수십만 명짜리 도시 하나가 쓰는 만큼입니다. 이건 과장이 아닙니다. 그리고 그런 데이터센터가 해마다 늘고 있습니다. 세계 데이터센터가 쓰는 전기가 지금 세계 전기의 2퍼센트 안팎이고, 2030년 무렵이면 두 배가 될 거라고들 봅니다.

그런데 고맙다는 인사 하나는 얼마나 들까요. 인공지능에 질문 하나를 던지면 전구 하나를 몇 분 켜는 정도의 전기가 듭니다. 한 사람이 하루에 열 번 묻는다고 해도 냉장고 하나가 쓰는 전기에 한참 못 미칩니다.

왜 그렇게 먹나

컴퓨터가 하는 일은 결국 스위치를 켰다 껐다 하는 것입니다. 스위치를 한 번 켤 때마다 아주 작은 전기가 듭니다. 인공지능은 질문 하나에 그 스위치를 조 단위로 켭니다. 작은 것도 조 번이면 큽니다.

그런데 전기의 대부분이 드는 자리는 사실 스위치가 아닙니다. 지금 컴퓨터는 기억하는 곳과 계산하는 곳이 따로 있습니다. 계산을 하려면 기억 창고에서 숫자를 꺼내 계산기까지 실어 나르고, 결과를 다시 창고에 갖다 놓아야 합니다. 이 실어 나르는 일에 계산 자체보다 훨씬 많은 전기가 듭니다.

인공지능은 그 나르는 양이 유난히 많습니다. 수천억 개의 숫자를 창고에서 꺼냈다 넣었다 합니다. 창고와 계산기 사이 길이 막히고, 그 길을 넓히려고 칩을 더 붙이고, 붙인 칩이 뜨거워져서 식히는 데 또 전기가 듭니다. 데이터센터 전기의 서너 할이 계산이 아니라 식히는 데 들어갑니다.

뇌는 20와트다

여기서 이상한 비교가 하나 나옵니다. 사람 뇌가 쓰는 에너지는 20와트입니다. 전구 하나 값입니다. 그 20와트로 말을 알아듣고 얼굴을 알아보고 글을 씁니다. 지금 인공지능이 같은 일을 하려면 그보다 수만 배를 씁니다.

뇌가 그렇게 싸게 하는 이유는 창고와 계산기가 따로 없기 때문입니다. 신경세포 하나하나가 기억도 하고 계산도 합니다. 실어 나를 것이 없으니 실어 나르는 전기가 안 듭니다. 지금 컴퓨터가 먹는 전기의 대부분이 바로 그 나르는 데 들어가니, 뇌는 처음부터 그 비용이 없는 구조입니다.

그래서 답이 셋으로 갈라진다

전기가 모자라면 할 수 있는 일은 세 가지뿐입니다. 더 만들거나, 덜 먹는 기계를 만들거나, 덜 쓰거나.

1. 더 만든다. 핵융합이 여기 들어갑니다. 입지를 안 가리고 좁은 면적에서 큰 전기가 나오니, 데이터센터 옆에 하나씩 짓자는 그림입니다. 다만 2030년대 이후의 답입니다.
2. 덜 먹는 기계를 만든다. 뇌처럼 기억과 계산을 한자리에서 하는 칩입니다. 뉴로모픽이라고 부릅니다. 대전 카이스트에서 만들고 있습니다.
3. 덜 쓴다. 같은 답을 더 작은 인공지능으로 내는 것입니다. 이건 이미 빠르게 되고 있습니다. 같은 일을 하는 데 드는 전기가 해마다 몇 분의 일로 줄고 있습니다.

셋 중 어느 하나가 답이 아닙니다. 첫째가 오기까지 20년 가까이 남았고, 그 사이를 둘째와 셋째가 메워야 합니다.

여기부터 조금 더

그러면 무엇이 진짜이고 무엇이 과장인가

이 구조는 어디서 왔나

기억과 계산을 따로 두는 구조는 1945년 폰 노이만이 정리했습니다. 프로그램을 기억 창고에 넣어 두고 계산기가 하나씩 꺼내 쓰는 방식입니다. 이 방식이 워낙 편해서 80년 동안 거의 모든 컴퓨터가 이렇게 지어졌습니다.

그 편함이 이제 전기값이 됐습니다. 80년 동안 문제가 안 됐던 이유는 창고와 계산기 사이가 넓지 않았기 때문입니다. 인공지능이 그 사이를 조 단위로 오가기 시작하면서 처음으로 그 구조 자체가 병목이 됐습니다. 그래서 80년 만에 다른 구조를 찾는 것입니다.

뇌 방식으로 짓자는 생각도 새것은 아닙니다. 1980년대 말에 카버 미드가 신경세포를 반도체로 흉내 내자고 했고, 뉴로모픽이라는 말도 그때 나왔습니다. 40년 전 생각이 지금 전기값 때문에 다시 불려 나온 것입니다.

대전에서

셋으로 갈라진 답 가운데 둘이 대전에 있습니다. 더 만드는 쪽은 유성구의 케이스타이고, 덜 먹게 만드는 쪽은 같은 유성구의 카이스트입니다.

카이스트 신소재공학과에서는 신경세포의 한 성질을 흉내 낸 소자를 만들었습니다. 지난 활동을 기억해 스스로 예민해지거나 둔해지는 성질입니다. 반도체에서 나는 잡음을 없애는 대신 뇌처럼 신호 처리에 쓰는 인공 신경세포도 발표했습니다. 전기및전자공학부에서는 트랜지스터 하나가 신경세포와 그 연결 노릇을 동시에 하게 만들었습니다. 이 사람들이 늘 인용하는 숫자가 바로 그 20와트입니다.

그리고 재미있는 고리가 하나 있습니다. 케이스타의 플라스마를 붙잡는 데 인공지능이 쓰이기 시작했습니다. 인공지능은 전기를 먹고, 핵융합은 그 전기를 만들 후보이고, 핵융합은 인공지능이 있어야 붙잡힙니다. 같은 동네에서 서로가 서로를 필요로 하고 있습니다.

이 일을 하는 사람이 되려면

1. 덜 먹는 칩을 설계하는 사람 — 반도체 설계와 소재 쪽입니다. 뇌를 흉내 낸 소자를 만드는 사람들입니다.
2. 같은 답을 더 작은 인공지능으로 내게 하는 사람 — 컴퓨터과학 쪽입니다. 지금 전기를 가장 빨리 줄이고 있는 자리입니다.
3. 데이터센터에 전기를 끌어오는 사람 — 전력 공학 쪽입니다. 지금 새 데이터센터가 못 서는 이유가 칩이 아니라 전선이 모자라서인 경우가 많습니다.
4. 데이터센터를 식히는 사람 — 냉동공조 쪽입니다. 데이터센터 전기의 서너 할이 식히는 데 들어가니, 이 사람이 전기를 줄이는 사람이기도 합니다.
5. 더 만드는 쪽 — 핵융합 편에 적은 사람들입니다.

넷째 줄이 이 편의 뜻밖의 자리입니다. 인공지능 전기 문제라고 하면 다들 칩을 떠올리는데, 그 전기의 서너 할은 뜨거워진 칩을 식히는 데 들어갑니다. 냉동기와 배관과 공기 흐름을 다루는 일이고, 공업고등학교에서 배우는 냉동기계와 배관 자격이 그대로 길이 됩니다. 핵융합 편의 냉장고 지키는 사람과 같은 종류의 자리입니다. 뜨거운 것을 만드는 기술 옆에는 늘 식히는 사람이 있습니다.

그래서

인공지능이 전기를 많이 먹는다는 말은 맞습니다. 그런데 그 답이 핵융합 하나라고 생각하면 20년을 손 놓고 기다리게 됩니다. 그 20년은 덜 먹는 칩과 덜 쓰는 법이 메워야 하고, 그 둘은 이미 움직이고 있습니다.

그리고 양자컴퓨터는 이 문제와 상관이 없습니다. 앞 편에서 본 대로 양자컴퓨터는 전기를 거의 안 먹고, 인공지능 계산을 대신하지도 않습니다. 이 셋을 한 묶음으로 부르는 일이 많은데, 전기 앞에서는 셋이 전혀 다른 자리에 서 있습니다.

남은 질문전기를 더 만드는 쪽과 덜 쓰는 쪽 가운데, 20년 뒤에 돌아보면 어느 쪽이 더 큰 답이었을까요?