PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2016/03/13 19:37:42
Name Neanderthal
Subject [일반] 만약 알파고가 아직은 그저 올빼미 새끼일 뿐이라면...?
둥지를 짓는 계절이었다. 고된 노동의 하루가 지나고 난 후 제비들은 석양 속에 앉아서 한가로이 쉬면서 지저귀고 있었다.

"우리들은 다 너무 작고 약해. 이걸 한 번 상상해 봐. 만약 우리에게 올빼미 한 마리가 있어서 그놈이 우리가 둥지를 짓는 걸 도와준다면 삶이 얼마나 편해질지 말이야!"

"맞아!"하고 또 다른 제비가 맞장구를 쳤다. "거기다가 우리는 그 올빼미 놈한테 나이 든 동료들과 아직 어린 아이들을 돌보게 할 수도 있을 거야."

또 다른 제비 한 마리도 거들었다. "그놈이 우리에게 조언도 좀 해줄 수 있을 거고 동네 고양이놈을 감시해 줄 수도 있겠지."

그러자 나이가 많은 제비인 Pastus가 말했다: "정찰대를 모든 방향으로 보내서 버려진 올빼미 새끼나 아니면 올빼미 알을 찾아보도록 하자. 꼭 올빼미가 아니더라도 까마귀 새끼도 좋고 족제비 새끼도 괜찮을 거야. 이번 일이 잘만 된다면 지난번에 마당 저쪽에 엄청난 곡물 저장 창고가 생긴 이래 우리에게 일어난 가장 좋은 일이 될 거야."

제비 떼들은 흥분했고 이곳저곳에서 저마다 큰 소리로 지저귀면서 야단법석을 벌였다.

오직 애꾸눈에 조바심을 참지 못하는 성격을 가진 Scronkfinkle만이 이 계획에 대해 의심을 거두지 않고 있었다. "이것은 틀림없이 우리에게 해가 될 거야. 올빼미를 어떻게 길들일지 또 그놈을 어떻게 훈련시킬지 생각하가도 전에 일단 그 놈을 우리 한 가운데로 데리고 들어온다면 말이지."

Pastus가 반박했다: "올빼미를 길들이는 건 지금으로선 엄청나게 어려운 일일 것 같은데? 그리고 올빼미 알을 찾는 일도 쉬운 일은 아니지. 그러니까 이렇게 하지. 일단 올빼미 알을 찾고 올빼미를 키운 다음 길들이는 건 그때 가서 다시 생각해 보자고."

"그 계획에는 치명적인 문제가 있다니까!"하고 Scronkfinkle이 소리 높여 외쳤지만 그의 주장은 결국 받아들여지지 않았다. 이미 제비 떼들은 Pastus가 지시한 바를 이행하기 위해서 사방으로 흩어져서 날아올랐다.

모두들 날아가고 단지 두, 세 마리 정도의 제비들만이 남았다. 그 남은 제비들은 자신들끼리 머리를 맞대고 어떻게 올빼미를 길들일지 고민하기 시작했다. 하지만 그들은 곧 알게 되었다. 실제로 길들일 올빼미가 없는 상황에서 그것을 길들일 방법을 생각하는 것이 정말로 엄청나게 어려운 일이라는 것을. 하지만 어떻게든 해 보기로 했다. 그들이 올빼미를 어떻게 통제할지 그 방법을 찾기도 전에 떠나간 제비 떼들이 올빼미 알을 들고 되돌아오면 어떻게 하지하고 끊임없이 걱정하면서...

_______________________________________________________________________________________________________________________________


윗글은 인공지능에 관한 책 [Superintelligence: Paths, Dangers, Strategies]라는 책의 첫 부분에 나오는 우화입니다. 책의 저자인 옥스퍼드대 교수인 닉 보스트롬이 우화의 형식을 빌려서 혹시 인간의 지능보다 더 뛰어난 초지능(superintelligence)이 등장했을 때 우리 인류가 어떻게 대응할 수 있을까 하는 문제를 다룬 위의 책 맨 앞에 실어놓은 내용을 제가 발번역(--;;) 한 것입니다.



요즘 알파고의 등장으로 인공지능에 대한 관심이 부쩍 늘었는데 앞선 세 번의 대국이 모두 알파고의 승리로 끝나자 인공지능에 대한 두려움이 생기면서 정말 우리 인류가 자신이 만든 피조물에 의해 최후를 맞이하게 되는 경로를 따라가고 있는 건 아닌가 하는 생각이 들면서 저 우화가 생각이 났습니다.

사실 인류를 지금의 위치까지 올려놓은 것은 인간만이 가지고 있는 끊임없는 지적 호기심 때문이라고 봐도 과언이 아닐 텐데 만약 인간이 그 호기심을 (또는 그 호기심 때문에 생겨난 피조물을) 잘 제어하지 못하고 정말 초지능을 가진 존재를 만들어 내어 신의 영역에 발을 들여 놓는다면 그 결과는 과연 우리에게 어떻게 다가올지 궁금하기도 하고 두렵기도 합니다.

다행이 이세돌 9단이 오늘 대국을 승리로 장식하고 알파고 역시 아직은 완벽한 모습이 아니라는 것을 보여주어서 한 숨 돌리긴 했지만 만약 알파고가 위의 우화 속에서 알에서 막 부화한 새끼일 뿐이라면 이야기는 또 달라지는 게 아닌가 싶기도 하네요. 저 우화 속에 나오는 올빼미가 정말 다 자라고 나면 과연 그때도 제비들은 저 올빼미를 통제할 수 있을까요?...

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
설현보미팬Vibe
16/03/13 19:39
수정 아이콘
언젠가는 터미네이터처럼 될 거 같기도 합니다
살려야한다
16/03/13 19:40
수정 아이콘
으앗 글도 글이지만 네덜란드님이 돌아오시다니! 환영합니다.
예루리
16/03/13 19:44
수정 아이콘
오 이제 피지알 자게에서 네덜란드 vs 산타크로스 님의 한판 승부를 볼 수 있는겁니꽈?
-안군-
16/03/13 19:44
수정 아이콘
오오,, 네덜란드님이 여기에 관심을 가지시다니!!

일단, 알파고가 스카이넷이나 울트론이 될 가능성은 없을겁니다. 애초부터 범용적인 지식의 축적을 목적으로 하지는 않으니까요.
하지만, 범용성을 목적으로 하는 인공지능을 만들어내고, 그것이 인터넷망을 통해 지식을 축적해가다가,
어느날 인간의 지성을 넘어선다면... 의 가능성이 없지는 않겠죠. 일단, 알파고는 그런 능력은 없지만요...
지나가다...
16/03/13 19:47
수정 아이콘
호기심이 과연 고양이만 죽일까 하는 생각은 합니다.
마스터충달
16/03/13 19:53
수정 아이콘
저는 초지능이 나온다면 무척 젠틀할거라고 생각합니다. 사람만 봐도 대게 아는 게 많을수록 평화롭고 도덕적이니까요. 물론 그렇다고 열등한 존재를 동등하게 바라본다는 말은 아닙니다. 하지만 최소한 귱휼이 여기긴 하겠죠?
아수라발발타
16/03/13 20:12
수정 아이콘
흐흐흐 대게 그렇죠

근데.... 많이 아는 만큼 악랄할수도 있겠죠
마스터충달
16/03/13 20:23
수정 아이콘
아는 건 많은데 인성이 망이면...크크
지나가다...
16/03/13 20:30
수정 아이콘
아무리 인성 좋은 사람도 벌레는 별 생각 없이 죽일 때가 있는 것을 보면 인성과는 상관이 없을지도...;;;
마스터충달
16/03/13 20:34
수정 아이콘
제발 올빼미 인성이 파브르급이길...
yangjyess
16/03/13 20:46
수정 아이콘
분명 초지능 있는 개체들 사이에서도 분열이 발생할거라고 예상합니다... 크
마스터충달
16/03/13 20:47
수정 아이콘
누가 더 인간의 신뢰를 얻는가 경쟁 붙으면 좋겠네요 크크
지나가다...
16/03/13 22:03
수정 아이콘
그리스 신들처럼 자기가 좋아하는 인간 편애하고 마음에 안 들면 벌주고 하면서 놀지도 모르겠습니다. 크크크
16/03/14 06:09
수정 아이콘
알파고! 당신의 아들이 돌아왔소!
절름발이이리
16/03/13 21:11
수정 아이콘
아는게 많다고 평화롭고 도덕적이다 라는 명제가 이 경우에 들어 맞는지는 의문입니다. 인간간의 관계에서만 한정한다면 그런 경향성이 있을지도 모르지만, 인간이 평화와 도덕을 준수하는 가장 중요한 기제는 그게 생존전략에 도움이 되기 때문입니다. 반대로 말하면 내 생존에 지장이 없는 상대에게도 평화와 도덕성을 보여주는가.. 이것은 인간이 타 종을 대하는 것을 보면 알 수 있지요.
그리고 애초에 인공지능을 인격화 하여 이해하는 것부터가 꽤나 나이브한 판단입니다. 어떻게 방향이 설정되어 프로그래밍 되느냐에 따라 기조는 어떻게든 바뀔 수 있는거지요.
마스터충달
16/03/13 21:33
수정 아이콘
고전적인 진선미의 개념을 따른다면 진리에 가까울수록 선할 거라 생각해봅니다. 물론 플라톤주의라는 게 한물간 사상 취급을 받긴 하지만요;;
절름발이이리
16/03/13 21:36
수정 아이콘
인간적인 사고방식이죠. 실제로는 진리에 가까울수록 선한것이 아니라, 선하다고 자신들이 믿는것에 부합하는 것을 진리로 규정하는 것.
마스터충달
16/03/13 21:38
수정 아이콘
인간적인 것으로 보느냐 종교처럼 절대적인 것으로 보느냐에 따라 관점이 나뉘지 않나 싶습니다. 그런데 말씀을 듣고보니 인간적인 사고방식이라는 이리님 말씀이 더 설득력있게 다가오네요.
16/03/14 14:50
수정 아이콘
전혀 아닙니다. 차라리 아무것도 모르는 사람이 평화롭죠.
마스터충달
16/03/14 16:35
수정 아이콘
개미를 태워죽이는건 어린아이이지 노승이 아니죠. 이리 단언하실 사안은 아닌 것 같습니다.
i_terran
16/03/13 19:54
수정 아이콘
아 정말 좋은 글이라고 생각합니다. 외람된 얘기지만, 강인공지능의 개발은 여기에서 멈춰야 하는게 아닐까 싶습니다.

그.러.나.
몇십년후 인간이 환경문제를 해결하지 못해서 절망에 처했을 때, 결국 강인공지능이 봉인을 풀고 마는데....
Sgt. Hammer
16/03/13 19:54
수정 아이콘
빠른 할복이 답인가요?
책 표지 올빼미 더럽게 무섭게 생겼네요
루크레티아
16/03/13 20:05
수정 아이콘
올빼미 새끼는 커녕 올빼미 정자 수준이라고 봐야 할 지도 모르죠.
다리기
16/03/13 20:14
수정 아이콘
만약이 아니라 실제로 올빼미새끼.. 혹은 더 보잘것없는 상태긴 하죠.
커다란 올빼미가 되었을 때 통제 가능 여부가 인류의 숙제가 될거라고 봅니당
-안군-
16/03/13 20:17
수정 아이콘
실제로는 통제 가능 여부가 문제가 아니라, 그분이 우리를 가엽게 여겨주실지가(...)
다리기
16/03/13 20:20
수정 아이콘
크흑 ㅜㅜ 최대한 불쌍하게 보이도록 장치를 마련해서 간접 통제를... 크킄
이진아
16/03/13 20:32
수정 아이콘
아 진짜 무슨 각본없는 영화를 보는 느낌이에요.

불굴의 의지로 인공지능을 상대로 승리한 이후 가볍게 미소지으며 걸어나오는 이세돌이나

인류가 지켜보는 세기의 대결에서 패배 이후
'알파고 항복. 경기결과 시스템에 추가.'
로 메시지를 띄울뿐인 알파고나

이런 역사적 순간들을 보고있다니 정말...
간디가
16/03/13 20:49
수정 아이콘
확실한 건 앞으로 바둑판이 이 정도로 스포트라이트르 받는 일은 없을 것 같네요.혈혈단신으로 혼자 세계기전에 출전하여 카퍼레이드까지 경험한 조훈현 9단,압도적 기량과 뛰어난 계산으로 혀를 내두르게 만든 이창호 9단 이후로 이세돌 9단이 나왔죠.그 사이에 사회는 더 이상 바둑말고도 다른데 집중할 수 있을만큼 많은 발전을 했고요.그리고 이세돌은 구리와의 10번기 대국으로 이벤트매치이지만 바둑계에 큰 파장을 일으켰습니다.인류vs기계의 프레임으로 이번 대국은 전세계에 주목을 받았죠.앞으로 이 이상의 관심을 받을 일은 없을 것 같습니다.그 순간을 이세돌 9단이 장식했다는게 정말 자랑스럽네요.기원다닐때 원장님이 항상 센돌이라고 부르면서 이세돌을 격렬히 응원하는 것도 기억나고 하여튼 참 좋습니다.마지막 대국도 후회없이 했으면 좋겠어요.
물만난고기
16/03/13 20:38
수정 아이콘
개미가 인간을 보듯 그 정도 격차가 난다면 인간이 더 이상 뭘 할수가 없을테고 인공지능의 발전과정 중 인간과 동등한 지성,자아를 갖춘 시점에서 인류가 그들을 통제해야할 위협으로 볼지 적어도 인간만큼의 인격을 보장해주고 대우해줄지가 후에 인류역사에서 또 하나의 특이점이 되지 않을까 망상해봅니다.
즐겁게삽시다
16/03/13 20:44
수정 아이콘
앗 네안데르탈님!
다시 돌아오셨군요ㅠㅠ
탈퇴하신 거 보고 엄청 우울했었는데
이세돌 승리 못지 않게 기쁜 소식 입니다.
앞으로도 좋은 글 많이 부탁드릴게요
Anthony Martial
16/03/13 21:00
수정 아이콘
바알못에 과알못이지만 지금의 알파고는 그냥 인간이 가질 수 없는 극한의 피지컬일 뿐 인공지능이라 부르긴 힘든 것 같다는게 제 망상(?) 입니다

농담이 아니고 홍진호 선수처럼 [수백 수천 수억 게임을 했어요. 그래서 이 게임의 모든 것을 이해했어요 그럴 정도로 게임 했기 때문에...]

이 발언이 적절한게 알파고라고 생각합니다.


가령 수열 문제를 1부터 대입해서 푸는데 그 속도가 엄청 빠른 느낌이랄까요?

정말 보고 이해해서 풀이를 하는게 인공지능일테죠
절름발이이리
16/03/13 21:14
수정 아이콘
양으로 때워야 할 정도로, 아직은 인간만큼의 지능을 갖추지는 못했다고 평가할 수는 있겠지만, 그렇다고 말씀하신것처럼 오로지 피지컬로 때워버린 것은 아닙니다. 바둑에 존재하는 경우의 수는 현존하는 컴퓨터의 계산 능력으로 때울 수 있는 수준이 아닙니다.
Anthony Martial
16/03/13 21:18
수정 아이콘
네 바알못에 과알못이라 제대로 된 표현은 아니겠지요.

근데 다큐나 이런걸 보면 모든 경우의 수 계산은 힘들고 따라서
여러가지 기보나 통계등을 활용해서 계산할 필요 없는 수들을 대폭 줄이는 걸로 아는데
그것도 사실 피지컬의 영역에 가깝지 않나 뭐 그렇게 생각합니다. (개인적으로요. 잘 아시는 분들 시점으론 무식한 발언일 수 있겠네요)
절름발이이리
16/03/13 21:20
수정 아이콘
인간도 그런 식으로 사고 합니다. 더 효율적일 뿐이지요. 인간의 이해력이란 것이 무슨 신내림처럼 발생하는 게 아닙니다. 마찬가지로 주어진 정보를 통해 통계적으로 추상화하는 거죠. 60억 남자 여자를 다 만나봐야만 남자 여자 구분하는게 아닌 것 처럼요.
Anthony Martial
16/03/13 21:56
수정 아이콘
주입된 것과 스스로 생각의 차이랄까요

경우의 수를 줄이기 위해 빅데이터를 활용하는데 그걸 스스로 하는것이 진정한 인공지능이 아닌가 생각해봅니다

저의 감상이 그렇다는거니 그냥 넘어가셔도 됩니다.
큰틀에서 보자면 알파고도 인공지능이겠죠. 제가 뭐가 된다고 그 정의를 바꿀까요
제 느낌은 20세기에 만들어진 집채만한
컴퓨터도 컴퓨터고 제가 쓰고있는 pc도 컴퓨터지만 이 정도는 되어야 진정한 컴퓨터라 할 수 있지 않느냐 정도의 감상입니다

물론 20년 30년쯤 지나 누구나 몸 속에 컴퓨터 하나 쯤은 이식해서 사는 시대가 오면 또 제 감상은 바뀔수 있겠죠
16/03/13 21:18
수정 아이콘
요즘 이걸 자주보니 예전에 많이 본 '로봇 3원칙'(맞나?)가 떠오르던데...정말 그렇게 갈련지...
더 나아가면...시빌러 시스템 같은게 적용될 수도 있는거아닌가 하는....하하;;
지탄다 에루
16/03/13 23:04
수정 아이콘
헉 탈퇴하셨었나요? 돌아와 주셔서 기쁩니다!!
어쩐지 글이 안 올라와서 섭섭했었어요 흑흑..
이번 글도 재미있게 봤습니다. 이런 쪽으로 망상해볼 수 있는 책을 좀 찾아보고 싶네요~
숙청호
16/03/14 04:53
수정 아이콘
잘봤습니다.
치맛살
16/03/14 10:00
수정 아이콘
궁금한게 있는데, 이 우화에 등장하는 이름에는 무슨 뜻이 있는건가요?
Neanderthal
16/03/14 10:52
수정 아이콘
있을 것 같긴 합니다...그냥 막 지었을 리는 없을 것 같은데...따로 살펴보지는 못했습니다...
16/03/14 14:43
수정 아이콘
이 얘기가 실화였다면 생각해볼 문제겠지만
한 쪽 측면에서 소설처럼 만들어진 이야기일 뿐
현실에서의 힘의 균형이 맞춰지는 과정을 생각해봤을 때 개인적으로 공감이 많이 가지는 않습니다.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
64076 [일반] 누가 미국의 기술 혁신을 주도하는가? 1 [9] santacroce7472 16/03/13 7472 17
64075 [일반] 알파고는 상용화가 될까요? [28] minyuhee6944 16/03/13 6944 0
64074 [일반] 만약 알파고가 아직은 그저 올빼미 새끼일 뿐이라면...? [41] Neanderthal11104 16/03/13 11104 11
64073 [일반] 이탈리아 함선 이야기(1) - 약 한사발 들이킨 Guidoni 항모 계획안 [9] 레이오네4147 16/03/13 4147 5
64072 [일반] [야구] kt위즈 오정복 음주운전 적발 [21] 이홍기6026 16/03/13 6026 0
64070 [일반] 알파고가 자체적으로 평가한 이번 4국의 패착에 대한 간단한 설명 [63] 큐브18239 16/03/13 18239 2
64068 [일반] [스포일러 살짝포함] 육룡이 나르샤 : 척사광. 만화 킹덤의 치우를 떠오르게 만드는 고려의 소드마스터 척준경의 후예. [8] 마음속의빛6153 16/03/13 6153 2
64067 [일반] [바둑] 인공지능의 도전 제4국 - 이세돌 불계승 [260] 낭천24783 16/03/13 24783 8
64066 [일반] 혁신을 둘러싼 유럽의 고민: 왜 미국을 따라 잡을 수 없을까? [20] santacroce9140 16/03/13 9140 22
64065 [일반] 대성인가 이수인가, 중국의 민족논리와 계급논리 [11] 후추통7330 16/03/13 7330 1
64064 [일반] 바둑을 아예 모르는 분들을 위한 바둑의 기초 [22] 루윈10457 16/03/13 10457 26
64060 [일반] <삼국지> 맹획은 이민족이 아니다. [9] 靑龍6631 16/03/13 6631 1
64056 [일반] 힐러리 클린턴의 토론 스타일 [27] 삭제됨8443 16/03/13 8443 0
64055 [일반] [SF 단편] 궁극의 질문 [42] 마스터충달6249 16/03/13 6249 10
64054 [일반] [혐?] 태어나서 가장 더럽다는 생각이 드는 뉴스를 보았습니다 [45] 삭제됨12297 16/03/13 12297 1
64053 [일반] 지금 막 시그널이 끝났습니다.(스포주의) [114] 페이커센빠이12160 16/03/12 12160 8
64052 [일반] 독일언론에서 긁어오기 - 알파고(3) [13] 표절작곡가11043 16/03/12 11043 8
64050 [일반] 인공신경망과 알파고 - 인공신경망이란 무엇인가? (데이터 주의) [15] 65C0211267 16/03/12 11267 22
64049 [일반] 남녀 성비 불균형은 사회적 재앙을 초래할까? [51] santacroce14122 16/03/12 14122 39
64048 [일반] 서울시, 도철 성남여주선 운영 불허에 개통 연기 불똥 [16] 군디츠마라7068 16/03/12 7068 4
64047 [일반] [단편소설] 바둑의 미래 [29] 토니토니쵸파6799 16/03/12 6799 16
64046 [일반] 알파고 문제 - 꿈보다 해몽이라는 것 [23] 푸구루죽죽7345 16/03/12 7345 3
64045 [일반] [바둑] 인공지능의 도전 제3국 - 알파고 불계승 [114] 낭천15977 16/03/12 15977 0
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로