Which tree should we plant in the age of AGI? (KOR)

Kim Dae-shik

The author is a professor at KAIST. 

Christopher Nolan’s newest film “The Odyssey” is drawing large audiences in Korea. With its star-studded cast, compelling story and unprecedented use of 70 mm film cameras for the entire movie, it has been praised for an immersive sense of scale. Cinemas are bustling again, with IMAX screenings across Korea selling out.

Overseas, however, the film has sparked controversy. Emily Wilson, a classics professor at the University of Pennsylvania whose 2017 translation of Homer’s “The Odyssey” was cited by Nolan as an influence, was deeply disappointed. Homer’s Odysseus embodies both wisdom and arrogance. The poet calls him andra polytropon, a man of many turns or many faces, but Wilson argues that Nolan reduces him to a one-dimensional figure consumed by guilt over the fall of Troy.

A movie is only a movie. Hollywood cannot replace ancient Greece and Nolan is not Homer. The more important question is what a story attributed to a poet who lived roughly 2,800 years ago can mean to people facing a future in which AI may replace human work, war and invasion have again become imaginable and climate change is felt daily.

Before they were written down, stories in Homer’s “The Iliad” and “The Odyssey,” composed around the eighth century B.C., were probably recited for generations by wandering poets. Historians have hypothesized that the Trojan War may preserve memories of conflicts involving Bronze Age cities and invading sea peoples around the 12th century B.C. In that sense, moviegoers today are watching a story rooted in the Mediterranean world of 3,200 years ago.

If “The Iliad” explores enduring human conditions — war and peace, anger and mercy — “The Odyssey” is often read as expressing the instinct to return to one’s origins, as Odysseus struggles home to Ithaca. Others see resistance to gods and fate, or the devotion of Penelope, who waits 20 years for her husband, as its central message.

The Roman philosopher Seneca, tutor to Emperor Nero, offered another interpretation. The protagonist, in his view, is neither Odysseus nor Penelope nor their son Telemachus, but the person reading the story: ourselves. Rather than investigate where Odysseus encountered storms and how long he wandered, Seneca argued, we should learn how not to wander ourselves. We are buffeted every day by storms of the mind.

What storms await us if artificial general intelligence, or AGI, capable of matching or surpassing human abilities, becomes reality rather than science fiction?

We have long imagined machines hunting humans like the Cyclops devouring Odysseus’ companions. But the real psychological challenge of AGI may look different. Imagine people who no longer need to work, living in machine-provided homes, eating machine-made food and spending their days watching videos and posting comments online. How different would they be from Odysseus’ companions after the sorceress Circe turns them into pigs?

The danger is not necessarily that machines will destroy humanity. It may be that unprecedented technological abundance gradually erodes the habits, ambitions and responsibilities that give human life meaning. A world freed from labor could offer extraordinary possibilities, but it could also leave people struggling to understand what they are for.

Meanwhile, future trillionaires who monopolize the enormous economic and scientific gains generated by AGI could tempt us, like the sirens, to surrender democracy and equality before the law. Technology that promises unprecedented prosperity could therefore create new forms of dependence and concentrations of power unless society develops the wisdom to govern it.

Athena, goddess of wisdom, continually guides Odysseus. According to myth, when the citizens of Athens sought a patron, Athena gave them the olive tree, symbolizing civilization and wisdom.

Martin Luther, who launched the Protestant Reformation in 16th-century Germany, is often credited with saying that even if the world were to end tomorrow, he would plant an apple tree today — an expression of refusing to surrender to despair.

The olive tree promises lasting human prosperity founded on wisdom. The apple tree represents determination even in the face of an unavoidable end. Both images ask what human beings should preserve when confronted with forces far greater than themselves.

As we prepare to enter the age of AGI, which tree should we plant today?

AGI 시대 심어야 할 나무

김대식 KAIST 교수

할리우드 거장 크리스토퍼 놀런 감독의 ‘오디세이’가 대한민국에서 큰 인기를 끌고 있다. 화려한 출연진, 흥미로운 이야기, 그리고 특히 처음으로 영화 전체를 70㎜ 필름 카메라로 촬영한 덕분에 기존 영화에서는 느낄 수 없었던 몰입감과 방대한 스케일을 잘 보여준다는 평가를 받고 있다. 덕분에 오랜만에 영화관들이 붐비고, 특히 한국 모든 아이맥스 상영관들이 매진될 정도이지만, 해외에선 논란도 있다. 특히 놀런 감독이 대본을 쓸 때 원작으로 참고했다는 오디세이아 번역본의 작가이자 펜실베니아대학교 고전학자인 에밀리 윌슨 교수는 막상 영화를 보고 크게 실망했다고 한다. 지혜로움과 오만이라는 양면의 성격을 가진 주인공 오디세우스. 덕분에 호메로스는 그를 안드라 폴리트로폰(andra polytropon), 그러니까 많은 길을 걸어온 사람, 또는 천의 얼굴을 지닌 인간이라고 표현했지만, 영화에서의 오디세우스는 트로이를 함락한 죄책감으로만 가득한 일차원적인 인물로 잘못 묘사됐다고 윌슨 교수는 지적한다.

물론 영화는 영화일 뿐이다. 할리우드 영화가 고대 그리스 원작을 대체할 수 없고, 놀런 감독은 호메로스가 아니다. 하지만 더 중요한 질문은 바로 이거다: 기원전 8~7세기, 호메로스라는 이름으로 알려진 시인이 썼다는 이야기가, 인공지능 기계가 인간의 모든 일을 대체할 수도 있는 미래, 매일 피부로 느끼는 기후변화라는 암울함과 걱정으로 가득한 우리에게 도대체 무슨 의미가 있을까?

책으로 기록되기 전 일리아스와 오디세이아에 등장하는 이야기들은 대부분 이미 수백 년 동안 떠돌아다니는 시인들이 장터에서 읊어왔을 것이다. 그뿐이 아니다. 일리아스와 오디세이아에 나오는 트로이 전쟁은 아마도 기원전 12세기 청동기시대 도시들과 외부 침략세력인 바다 민족들간의 분쟁을 배경으로 하고 있을 거라고 고대역사학자들은 가설하고 있다. 그렇다면 우리는 지금 극장에서 3200년 전 청동기시대 지중해인들의 이야기를 영화로 관람하고 있는 것이다.

일리아스가 전쟁과 평화, 그리고 분노와 자비라는 영원한 인간의 조건을 보여준다면, 오디세이아는 만물의 모든 것이 처음 시작된 기원으로 되돌아가려 하듯, 오디세우스 역시 태어나고 자란 고향 이타카로 돌아가려는 인간의 본능을 보여준다고들 한다. 그런가 하면 다른 이들은 오디세우스는 신과 운명에게 저항하는 인간의 의지를 표현한다고 하고, 또 어떤 이들은 오디세우스를 20년 기다린 아내 페넬로페의 사랑이 서사의 핵심 메시지라고 한다.

하지만 이미 고대로마 철학자이자 네로 황제의 가정교사였던 세네카는 전혀 다른 해석을 제안한 바 있다. 세네카에 따르면 오디세이아의 주인공은 오디세우스도, 그를 기다려준 아내 페넬로페도, 기억도 나지 않는 아버지를 찾아 나간 아들 텔레마코스도 아닌 바로 지금 이 순간 오디세이아를 읽고 있는 독자, 그러니까 우리 자신이라고 말한다. 오디세우스가 어디서 폭풍을 만나 얼마나 떠돌아 다녔는지를 연구할 것이 아니라, 우리 자신이 어떻게 방황하지 않을지를 배워야 한다고 세네카는 주장한다. 왜 그럴까? 바로 우리 자신이 매일 마음의 폭풍에 휩쓸리고 있기 때문이다.

그렇다면 인간의 모든 능력을 모방하고 뛰어넘는다는 범용인공지능, AGI가 더 이상 SF 판타지가 아닌 멀지 않은 미래에 현실이 될 가능성을 논의하고 있는 우리를 기다리고 있는 마음의 폭풍은 과연 무엇일까? 우리는 언제나 마치 괴물 키클롭스가 오디세우스와 동료들을 잡아먹으려 하듯, 인간을 사냥하는 터미네이터를 걱정했지만, 어쩌면 AGI 시대에 우리를 기다리는 진정한 마음의 도전은 다른 모습들일 수 있겠다. 더 이상 스스로 노동을 할 필요가 없어진 AGI 시대에 기계가 제공한 숙소에서 기계가 만든 음식을 먹으며 하루 종일 인터넷에서 영상을 보며 댓글을 올릴지도 모르는 미래인류. 그런 우리와 마법의 여신 키르케가 돼지로 변신시켜 사육하는 오디세우스의 동료들과 무슨 차이가 있을까? 그리고 AGI가 가져다 줄 천문학적인 경제, 과학적 혁신의 결과물을 독점한 미래 조만장자들은 마치 오디세이아에서의 괴물 세이렌 같은 목소리로 우리에게 민주주의와 법 앞에서 평등을 포기하라고 유혹할 수도 있겠다.

언제나 오디세우스 옆에서 그를 도와주고 이끌어주는 지혜의 여신 아테나. 새로운 수호신을 찾던 아테네 시민들에게 아테나 여신은 문명과 지혜를 상징하는 올리브나무를 선물했다고 한다. 그런가 하면 16세기 독일에서 종교개혁을 시작한 마틴 루터는 내일 세상이 무너질지라도, 오늘 사과나무를 심겠다며, 세상에 굴복하지 않겠다는 의지를 표현한 바 있다.

지혜를 기반으로 인류의 영원한 번영을 약속하는 올리브나무와, 그 누구도 피할 수 없는 인류의 종말을 상징하는 사과나무. AGI 시대를 곧 경험할 우리는 오늘 어떤 나무를 심어야 할까?