컨퍼런스 DEFCON 25. Garry Kasparov. "뇌의 마지막 전투". 2 부

컨퍼런스 DEFCON 25. Garry Kasparov. "뇌의 마지막 전투". 1 부

나는 지적 영역을 포함하여 직장에서 기계가 인간을 대체할 것이라는 것이 문제가 아니며, 컴퓨터가 고등 교육을 받고 트위터 계정을 가진 사람들을 상대로 무기를 들고 있다는 것이 문제가 아니라고 생각합니다. AI의 구현은 빠르게 이루어지지 않고, 오히려 너무 느리다. 왜? 이것은 인간 발전의 정상적인 주기이고, 우리가 보는 파괴가 새로운 일자리를 창출하기 전에 오래된 일자리를 파괴하는 새로운 기술의 도입을 의미한다는 것을 우리는 단순히 깨닫지 못하기 때문입니다.

기술은 낡은 산업을 파괴하고 새로운 산업을 창조하는 것이 창조의 과정이고, 이것이 발전주기이다. 프로세스에 오래된 기술을 삽입하거나 오래된 기술에 대한 이점을 만들어 고통을 연장하려고 하면 프로세스가 느려지고 더 고통스러워질 뿐입니다. 어차피 일어날 일이지만 문제는 의도적으로 속도를 늦추는 규칙을 만들어 프로세스를 규제하고 있다는 것입니다. 나는 이것이 우리가 더 명확하게 알고 있는 것보다 더 큰 문제라고 생각합니다. 이는 사람들이 “자율주행차를 타면서 어떻게 안전함을 느낄 수 있나요?”라는 질문을 하는 심리적인 문제에 가깝습니다.

나는 역사를 조사하면서 17년 전 뉴욕에서 가장 강력한 노동조합 중 하나가 XNUMX명의 노동자를 연합시킨 엘리베이터 노동조합이었다는 것을 알게 되었습니다. 그건 그렇고, 그 당시에는 이미 버튼만 누르면 작업이 완료되는 기술이 있었지만 사람들은 그것을 믿지 않았습니다! 엘리베이터를 호출하기 위해 버튼을 직접 눌러야 한다는 것은 정말 끔찍합니다! 이 노동조합이 왜 "사망"하고 사람들이 버튼을 직접 사용하기 시작했는지 아십니까? 어느 날 엘리베이터 직원들이 파업을 하기로 결정했기 때문입니다. 그들은 파업에 나섰고, 엠파이어 스테이트 빌딩 꼭대기까지 올라가야 했던 사람들은 위험을 무릅쓰고 자신의 손으로 버튼을 누를 뻔했습니다.

20-30년 전 그들이 자동차 운전석에 앉았을 때 자녀나 손자에 대해 그들이 했던 말을 기억하십시오. “이건 끔찍합니다. 통계를 보세요. 그들의 삶은?”

따라서 이 모든 것은 순수한 심리학입니다. 우리는 교통사고로 얼마나 많은 사람이 죽는지에 대해 별로 관심을 두지 않지만, 자율주행차에 의해 한 사람이 죽으면 그 사건은 터무니없이 커진다. 인공 지능 기술의 모든 결함, 실수는 신문의 첫 페이지에 즉시 다루어집니다. 하지만 통계를 보고 사고 건수를 보면 전체 사고 건수에서 얼마나 작은 비율인지 알 수 있습니다. 그러므로 인류 공동체는 그러한 두려움에 사로잡히지 않고 앞으로 나아갈 수 있어야만 승리할 수 있습니다.

가짜 뉴스나 사이버 보안에 대해 이야기할 때 또 다른 문제가 발생합니다. 이는 매우 정치적인 주제이므로 AI를 싫어하는 사람들을 어떻게 대해야 하는지 묻는 전화를 많이 받습니다. 예를 들어, 저는 일반 블로그를 작성하고 며칠 후에 게시될 새 게시물에서 증오와 증오로부터의 구원이 지식과 ​​학습에 있다는 사실에 대해 이야기합니다. 우리는 이 모든 것이 발명되기 오래 전에 이 문제가 존재했다는 점을 이해해야 합니다. 단지 수백만, 수십억 명의 사람들에게 도달한 인터넷 덕분에 이제 그 중요성이 커졌다는 것입니다.

누군가가 AI를 금지하려고 시도하여 진보를 막으려 한다면 실제로 좋은 일이라고 생각합니다. 그리고 푸틴 대통령과 다른 악당들이 어디에 있든 우리를 반대하는 사람들이 있기 때문에 그것은 효과가 없을 것입니다. 그들은 우리가 만든 기술을 사용합니다. 자유로운 세상. 그러므로 우리는 그것을 주어진 것으로 받아들여야 한다고 생각합니다.

문제의 본질은 오직 우리 안에 있으며, 질문에 대한 답은 우리 안에, 우리 자신의 힘과 자신감에 있습니다. 나는 지능형 기계가 우리를 "낡은" 존재로 만들 수 없다고 주장합니다. 그러나 인간-컴퓨터 협력에는 일정한 제한이 있으며 이는 대부분 이전에 존재했던 소문일 뿐이라는 점을 기억해야 합니다. 늘 그렇듯, 이것은 낡은 세계를 파괴하고 새로운 세계를 창조하는 새로운 기회일 뿐이며, 앞으로 나아갈수록 우리는 더 나아질 것입니다.

요즘에는 공상 과학 소설의 세계로의 이동과 가장 유사합니다. 역설적인 점은 50~60년을 되돌아보면 그 당시 공상과학 소설은 절대적으로 긍정적이었고 완전한 유토피아였다는 것을 알게 될 것입니다. 그러나 유토피아에서 디스토피아로 점진적인 전환이 있었기 때문에 우리는 더 이상 인류의 미래에 대해 듣고 싶지 않습니다.

이것은 하룻밤 사이에 일어난 일이 아닙니다. 사람들이 우주 탐사가 너무 위험하다고 판단한 때가 있었습니다. 이것은 실제로 큰 위험이지만, 1969년 미국인들이 달에 착륙했을 때 NASA의 전체 컴퓨팅 성능이 주머니에 쏙 들어가는 최신 컴퓨팅 장치의 성능보다 적었다고 상상해 보십시오. 이 장치는 40년 전에 존재했던 슈퍼컴퓨터보다 7배 더 강력합니다. 주머니에 있는 컴퓨팅 성능을 상상해 보십시오! 그러나 Apple iPhone 7이 Apollo XNUMX과 동일한 컴퓨팅 성능을 가지고 있는지, 즉 동일한 효과를 낼 수 있는지는 확실하지 않습니다.

그러나 기계는 우리에게 우주나 해양 탐사에 많은 큰 발전을 가져왔으며, 우리는 컴퓨터가 우리에게 큰 위험을 감수할 수 있는 능력을 제공한다는 것을 이해해야 합니다.

긍정적인 말로 연설을 마무리하고 싶습니다. 이 슬라이드에는 긍정적인 그림이 나오지 않습니까? 오른쪽 하단 사진은 포토샵한 게 아니고 실제로 2003년에 터미네이터를 만났어요.

그도 체스를 어릴 때부터 좋아했지만, 체스를 구체적으로 공부하지 않았기 때문에 금방 졌다. 그래서 6개월 후 그가 캘리포니아 주지사로 출마하여 승리했을 때 저는 매우 놀랐습니다!

왜 나는 이 사진들을 긍정적이라고 부르는가? 첫 번째 에피소드를 제외한 모든 에피소드에서 오래된 Arnold는 항상 승자의 편에 서고 새로운 기계와 싸우는 데 지치지 않지만, 내가 이야기했던 조합을 볼 수 있는 것은 첫 번째 에피소드에서입니다. 사람과 오래된 기계, 완벽한 인터페이스가 최신 자동차를 압도합니다.
당신은 이렇게 말할 수 있습니다: "그렇습니다. 기계는 절대적으로 모든 것을 계산할 수 있기 때문에 사람보다 더 강합니다!" 그러나 요점은 그들이 모든 것을 계산할 수 있다는 것이 아닙니다. 예를 들어, 체스에서 우리는 가능한 수의 수학적 무한대(1045)에 대해 기술적으로 이야기할 수 있는데, 이는 현대 컴퓨터에서 계산하기 어렵지 않습니다. 그러나 게임에서 중요한 것은 계산이 아니라 항상 규칙에 따라 움직이기 때문에 컴퓨터가 사람보다 앞서 있다는 사실입니다. 그리고 여러분은 이러한 규칙의 효과를 알고 있으며 컴퓨터가 가능한 엄청나게 다양한 동작 중에서 최선의 동작을 선택하는 이유를 알고 있습니다.

하지만 실생활로 돌아간다면 컴퓨터가 항상 유용할 수 있을지는 모르겠습니다. 가장 일반적인 상황을 살펴보겠습니다. 예산을 모니터링하는 컴퓨터가 있고, 상점에 있고 값비싼 선물을 사려고 합니다. 컴퓨터는 구매를 평가하고 "아니요, 예산이 초과되어 이 품목을 구입할 여유가 없습니다."라고 말합니다. 기계가 모든 것을 계산했지만 약간의 뉘앙스가 있습니다. 귀하의 자녀가 귀하 옆에 서 있고이 선물은 그의 생일을위한 것입니다. 이것이 문제의 조건을 어떻게 변화시키는지 보십니까? 아이가 이 선물을 기다리고 있기 때문에 모든 것이 바뀌게 됩니다.

모든 것을 바꾸는 이러한 작은 것들을 추가하기 시작할 수는 있지만 문제 설명에 포함되어 올바른 솔루션을 얻을 수는 없다고 생각합니다. 우리에게는 많은 규칙이 있지만 상황이 변하기 때문에 여전히 질문을 해야 합니다. 이것이 평범한 상황이라고 할 수 있는 것이지만, 이 영화들을 보면 여기서 보여지는 상황이 더 드라마틱하고 파격적이라고 할 수 있다. 이 슬라이드는 스타워즈: 제국의 역습 에피소드 V의 스틸을 보여줍니다.

한 솔로는 소행성 지대를 통과해 배를 조종하고 C-3PO는 당황하며 소행성 지대에서 살아남을 확률이 1:3122라고 보고합니다. 한 솔로는 그에게 "우리의 가능성이 무엇인지 말하지 마세요!"라고 말합니다. 여기서 질문이 생깁니다. 이 상황에서 누가 더 옳습니까?

C-3PO로 대표되는 기술은 절대적으로 옳습니다. 생존 가능성이 거의 XNUMX에 가까워지기 때문입니다. 로봇의 관점에서 보면, 제국군에 의해 포획되는 것이 소행성 지대에서 죽는 것보다 인간이 고려조차 하지 않는 더 나은 선택일 수도 있습니다. 그러나 컴퓨터가 제국에 항복하는 것이 최선의 선택이라고 결정하면 그 사람에게는 선택의 여지가 전혀 없다고 가정할 수 있습니다. 매우 중요한 것은 평범하거나 특별한 경우 모두 우리가 궁극적인 결정을 내릴 수 있는 능력을 갖고 있으며 그러한 결정을 내리기 위해서는 여전히 인간의 리더십이 필요하다는 것입니다.

때로는 이는 컴퓨터의 권장 사항에 어긋나야 함을 의미합니다. 인간 리더십의 요점은 가능성을 아는 것이 아니라 단지 오늘이나 내일뿐만 아니라 먼 미래에 정말로 중요한 질문을 하는 것입니다. 이 프로세스는 지능형 기계의 도움 없이 영향을 미치는 "인간 안내" 또는 "인간 개입"이라고 할 수 있습니다. 이것이 금세기 우리의 길이어야 하는 것입니다.

사람들은 내가 경험한 지능형 기계에 대한 낙관주의에 가끔 놀랐지만, 나는 정말로 낙관론자다. 그리고 저는 여러분 모두가 AI의 미래에 대해 똑같이 낙관적이라고 확신합니다. 그러나 우리의 기술은 불가지론적이라는 점을 기억해야 합니다. 좋은 것도 나쁜 것도 아니지만 선과 악 모두에 사용될 수 있습니다. 기계는 더욱 똑똑해지고 능력이 향상되어야 합니다. 그리고 우리 인간은 오직 인간만이 할 수 있는 일, 즉 꿈을 꾸고, 최대한 꿈을 꾸어야 합니다. 그러면 우리는 이 놀라운 새로운 도구가 가져오는 모든 이점을 추출할 수 있을 것입니다.

예정대로, 질문에 답할 수 있는 시간은 아직 10분 남았습니다.

질문: 어떤 동작이 인간의 플레이 스타일과 더 일치하는지 판단할 수 있는 기계 학습 시스템을 만드는 것이 가능하다고 생각하시나요?

Kasparov: 우선, 우리는 컴퓨터가 첫 번째 수와 나머지 17505개의 수를 알려줄 것이라고 기대하지 않습니다. 독특한 동작에 대한 최상의 추천을 제공하려면 기계에 의존해야 한다고 생각합니다. 그런데 탑클래스 플레이어들은 컴퓨터를 가이드로 삼아 게임에서 가장 적합한 위치를 차지하도록 돕습니다. 다시 한 번 반복합니다. 9번 중 10번은 상황에 대한 컴퓨터의 평가가 사람이 내릴 수 있는 평가보다 훨씬 뛰어납니다.

질문: 진정한 지능에는 선택의 자유, 사람만이 내릴 수 있는 결정의 자유가 필요하다는 데 동의하시나요? 결국 Deep Blue 소프트웨어와 기타 컴퓨터 프로그램은 사람이 작성하므로, Deep Blue에 패하면 컴퓨터에 패하는 것이 아니라 프로그램을 작성한 프로그래머에게 패하는 것입니다. 내 질문은: 컴퓨터에 선택의 자유가 있는 한 어떤 종류의 기계 지능에도 위험이 있습니까?

카스파로프: 여기서는 과학에서 철학으로 옮겨야겠습니다. Deep Blue에 관한 모든 것이 명확합니다. 이는 엄청난 양의 인간 작업의 결과입니다. 대부분의 경우 데미스 하사비스의 알파고(AlphaGo)의 경우에도 이것들은 모두 인간 지능의 산물이다. 기계가 선택의 자유를 가질 수 있는지는 모르겠지만, 우리가 하는 일이 무엇이든, 그 일을 하는 방법을 안다면 기계가 그 일을 더 잘할 것이라고 믿습니다. 그러나 우리는 대부분의 일을 할 때 최선의 방법을 모르기 때문에 우리가 성공할 것이 무엇인지 이해하지 못하는 경우가 많습니다. 간단히 말하면, 우리에게는 목표가 있지만 그것이 무엇인지 알지 못하며, 그 목표를 실현하도록 돕는 것이 기계의 역할입니다. 그러므로 우리가 컴퓨터의 자유로운 선택에 관해 이야기한다면 우리를 이 목표에 묶는 데 도움이 될 것입니다. 나는 이것이 컴퓨터의 미래라고 생각합니다.

질문: 용기, 도덕성 등 인간의 특성과 이를 기반으로 인공지능이 내릴 수 있는 결정에 대해 어떻게 생각하시나요? 예를 들어, 자율주행차는 무엇을 해야 할까요? 어린이를 치거나 바위에 부딪혀 승객을 죽이는 것을 피해야 할까요?

카스파로프: 이것은 사람들이 "감정"이라고 부르는 것인데, 그것은 인간의 다양한 특성이기 때문에 정량화할 수 없습니다. 용기에 대해 이야기하고 있다면 이 특성은 항상 최적의 옵션을 선택할 가능성에 반합니다. 용기는 인간의 다른 감정과 마찬가지로 정의상 정확한 계산에 어긋납니다.
질문: Kasparov 씨, 제 질문은 컴퓨터에 관한 것이 아닙니다. 플라스크에 무엇이 들어 있으며 시도해 볼 수 있습니까?

카스파로프: 무슨 말이야?

사회자: 그는 당신의 주머니에 무엇이 있는지 묻습니다!

카스파로프: 내 주머니에? "스톨리치나야"! 이건 광고가 아니니, 눈치채셨다면 버렸습니다.

질문: 다음 세계 체스 챔피언은 누가 될 것이라고 생각합니까? 젊은 중국 체스 선수 Wei Yi가 Carelsen을 체스의 왕으로 몰아낼 기회를 갖게 됩니까?

Kasparov: Karelsen은 1위 선수입니다. 그는 세계 챔피언은 아니지만 등급에 따르면 단순히 세계 최고의 체스 선수입니다. 올해 27살이 되는 그는 아직 어리지만, 오늘날의 기준으로 보면 그리 어리지는 않습니다. 지금 웨이이는 18~19살인 것 같아요. 매그너스는 미국의 웨슬리 소, 파비아노 케루아나 등 젊은 선수들보다 앞서 있으며, 웨이 이가 잠재적으로 그의 상대가 될 수 있다. 하지만 세계 챔피언이 되려면 재능이 필요합니다. 젊고 활력이 넘칠 필요는 없으며 약간의 행운만 있으면 됩니다. 따라서 질문에 답하기 위해 나는 이렇게 말할 수 있습니다. 그렇습니다. 그는 Magnus Carelsen을 이길 기회가 있습니다.
질문: 결정론적 알고리즘과 기계 학습에 대해 이야기할 때 기계를 지능을 보완하는 도구로 사용할 가능성에 대해 언급하셨습니다. 강력한 AI를 만들거나 심지어 인간의 두뇌를 컴퓨터에 넣기 전에 자원을 극대화할 가능성은 어떻습니까?

카스파로프: 나는 질문에 정확하게 답할 수 없다는 확신이 있을 때 내 무지를 인정하는 것이 부끄럽지 않습니다. 나는 인간의 뇌가 무엇인지, 인간의 신체와 별도로 생각한다면 어떤 기능을 수행하는지 이해하려고 최선을 다하고 있습니다. 뇌가 신체와 별도로 어떻게 행동할지 상상하기 어렵기 때문입니다. 아마도 그러한 실험이 미래에 이루어질 수도 있겠지만, 나는 인간의 뇌, 인간의 감정, 감정을 컴퓨터와 결합하면 뇌를 추출하고 얼려서 사용하는 것보다 훨씬 더 효과적인 '마음'을 형성할 것이라고 확신합니다. 뉴런으로 가득 찬 장치로 말이죠.

질문: 인간의 일자리를 컴퓨터로 대체하는 문제에 대한 보편적인 기본 접근 방식이 있습니까?

Kasparov: 저는 이것이 매우 중요한 질문이라고 생각합니다. 많은 사람들이 실업자가 될 수 있는 지점에 접근하고 있다는 것이 분명하기 때문입니다. 이는 기술 진보의 역설입니다. 한편으로 우리는 이러한 장치와 기술을 다루는 젊은 세대에게 엄청난 경쟁 우위를 제공하는 최신 기술을 보유하고 있습니다. 반면에 우리는 인간의 생명을 연장하고 수년 동안 일할 수 있는 능력을 제공하는 의학과 건강한 영양 분야의 발전을 이루었습니다. 그런 의미에서 50대, 60대, 심지어 40대 세대는 오늘날의 청년층과 경쟁할 수 없습니다. 세대 간 격차가 너무 큰 이 역설적인 상황에 대한 해결책을 찾아야 한다. 역사적 경험에 따르면 이러한 격차는 항상 큰 폭발로 이어진다. 나는 사회의 기존 사회 인프라와 기술 진보 사이의 격차를 의미합니다.

이는 정치인들이 다음 선거까지 미루고 싶어하는 문제다. 민감한 문제이기 때문에 아무도 그것에 대해 이야기하고 싶어하지 않습니다. 돈을 인쇄하고 미래에 누군가가 그 돈을 지불해주기를 바라는 것은 매우 쉽습니다. 그래서 이 분야에는 많은 역설이 있습니다. 예를 들어, 이러한 부채를 갚는 부담이 젊은 세대의 어깨에 떨어질 것이라는 기대로 기성세대에 대한 사회적 보장을 제공하기 위한 부채가 축적되는 것입니다. 답이 없는 질문이 많고 AI가 도움이 되기를 바라는 질문도 많습니다.
수십 년 동안 정치인들이 우리가 방금 논의한 문제를 무시하려고 노력해 왔다는 것은 매우 안타까운 일입니다. 그들은 항상 발언할 준비가 되어 있고 항상 계획이 있지만 기술과 사회의 갈등 문제에 대해 침묵하는 것이 비생산적이라는 것을 이해하고 싶지 않습니다. 관심을 가져주셔서 감사합니다!

우리와 함께있어 주셔서 감사합니다. 우리 기사가 마음에 드십니까? 더 재미있는 콘텐츠를 보고 싶다면? 주문하거나 친구에게 추천하여 우리를 지원하십시오. 귀사를 위해 당사가 개발한 고유한 보급형 서버 아날로그에서 Habr 사용자를 위한 30% 할인: VPS(KVM) E5-2650 v4(6코어) 10GB DDR4 240GB SSD 1Gbps에 대한 전체 진실 또는 서버 공유 방법은? (RAID1 및 RAID10에서 사용 가능, 최대 24개 코어 및 최대 40GB DDR4).

Dell R730xd가 2배 더 저렴합니까? 여기서 만 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV $199부터 네덜란드에서! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - 최저 $99! 에 대해 읽다 인프라 공사를 구축하는 방법. 730페니에 5유로 상당의 Dell R2650xd E4-9000 vXNUMX 서버를 사용하는 클래스?

출처 : habr.com