딥러닝만으로 구축된 AI 시스템을 신뢰할 수는 없습니다.

이 글은 과학적 연구의 결과가 아니라 우리의 즉각적인 기술 발전에 관한 많은 의견 중 하나입니다. 동시에 토론에 초대합니다.

뉴욕대학교 게리 마커스(Gary Marcus) 교수는 딥러닝이 AI 개발에 중요한 역할을 한다고 믿습니다. 그러나 그는 또한 이 기술에 대한 지나친 열정이 그 기술에 대한 불신을 초래할 수 있다고 믿습니다.

그의 책에서 AI 재부팅: 신뢰할 수 있는 인공지능 구축 최첨단 AI 연구에서 경력을 쌓은 훈련을 받은 신경과학자 마커스(Marcus)는 기술적, 윤리적 측면을 다룹니다. 기술적인 관점에서 볼 때, 딥 러닝은 이미지나 음성 인식과 같이 우리 두뇌가 수행하는 지각 작업을 성공적으로 모방할 수 있습니다. 하지만 대화를 이해하거나 인과관계를 파악하는 등의 다른 작업에는 딥러닝이 적합하지 않습니다. 더 넓은 범위의 문제를 해결할 수 있는 고급 지능형 기계(종종 인공 일반 지능이라고 함)를 만들려면 딥 러닝을 다른 기술과 결합해야 합니다.

AI 시스템이 자신의 작업이나 주변 세계를 진정으로 이해하지 못하면 위험한 결과를 초래할 수 있습니다. 시스템 환경에 예상치 못한 사소한 변화라도 잘못된 동작을 초래할 수 있습니다. 그러한 예는 이미 많이 있습니다. 속이기 쉬운 부적절한 표현의 결정 요인; 지속적으로 차별하는 구직 시스템; 충돌하고 때로는 운전자나 보행자를 죽이는 무인 자동차. 인공 일반 지능을 만드는 것은 단지 흥미로운 연구 문제가 아니라 완전히 실용적인 응용 프로그램이 많이 있습니다.

그들의 책에서 마커스와 그의 공동 저자인 어니스트 데이비스는 다른 길을 주장합니다. 그들은 우리가 일반 AI를 만드는 데는 아직 거리가 멀다고 믿지만, 조만간 AI를 만드는 것이 가능할 것이라고 확신합니다.

일반 AI가 필요한 이유는 무엇입니까? 전문화된 버전이 이미 만들어졌으며 많은 이점을 제공합니다.

맞습니다. 더 많은 혜택이 있을 것입니다. 그러나 전문 AI가 단순히 해결할 수 없는 문제가 많이 있습니다. 예를 들어, 일상적인 말을 이해하는 것, 가상 세계에서의 일반적인 지원, 청소와 요리를 돕는 로봇 등이 있습니다. 이러한 작업은 전문 AI의 능력을 넘어서는 것입니다. 또 다른 흥미로운 실용적인 질문: 전문 AI를 사용하여 안전한 자율주행차를 만드는 것이 가능합니까? 경험에 따르면 이러한 AI는 운전 중에도 비정상적인 상황에서 행동하는 데 여전히 많은 문제가 있어 상황을 크게 복잡하게 만듭니다.

나는 우리 모두가 의학 분야에서 새롭고 큰 발견을 하는 데 도움이 될 수 있는 AI를 갖고 싶어한다고 생각합니다. 생물학은 복잡한 분야이기 때문에 현재 기술이 이에 적합한지 여부는 불분명합니다. 책을 많이 읽을 준비가 되어 있어야 합니다. 과학자들은 네트워크와 분자의 상호작용에서 인과관계를 이해하고 행성에 관한 이론을 개발할 수 있습니다. 그러나 전문화된 AI로는 그러한 발견이 가능한 기계를 만들 수 없습니다. 그리고 일반 AI를 사용하면 과학, 기술, 의학에 혁명을 일으킬 수 있습니다. 제 생각에는 일반 AI를 만들기 위해 계속해서 노력하는 것이 매우 중요합니다.

"일반"이라는 말은 강력한 AI를 의미하는 것 같은데요?

"일반"이란 AI가 즉석에서 새로운 문제를 생각하고 해결할 수 있다는 의미입니다. 예를 들어, 지난 2000년 동안 문제가 변하지 않은 Go와는 다릅니다.

일반 AI는 정치와 의학 모두에서 결정을 내릴 수 있어야 합니다. 이것은 인간의 능력과 유사합니다. 제정신이라면 누구나 많은 일을 할 수 있습니다. 경험이 없는 학생들을 데리고 며칠 안에 법적 문제부터 의료 문제까지 거의 모든 문제를 해결하도록 합니다. 왜냐하면 그들은 세상에 대한 전반적인 이해를 갖고 있고 읽을 수 있기 때문에 매우 광범위한 활동에 기여할 수 있기 때문입니다.

그러한 지능과 강한 지능의 관계는 강력하지 않은 지능은 아마도 일반적인 문제를 해결하지 못할 것이라는 것입니다. 끊임없이 변화하는 세계에 대처할 수 있을 만큼 강력한 무언가를 만들려면 최소한 일반 지능에 접근해야 할 수도 있습니다.

그러나 이제 우리는 이것과는 거리가 멀다. AlphaGo는 19x19 보드에서 완벽하게 플레이할 수 있지만 직사각형 보드에서 플레이하려면 재교육이 필요합니다. 아니면 평균적인 딥러닝 시스템을 생각해 보세요. 조명이 밝고 피부 ​​질감이 보이면 코끼리를 인식할 수 있습니다. 그리고 코끼리의 실루엣만 보인다면 시스템은 아마도 그것을 인식하지 못할 것입니다.

책에서 딥러닝은 깊은 이해가 불가능하기 때문에 일반 AI의 역량을 발휘할 수 없다고 언급하셨습니다.

인지과학에서는 다양한 인지 모델의 형성에 관해 이야기합니다. 나는 호텔 방에 앉아 있는데 옷장이 있고, 침대가 있고, TV가 특이한 방식으로 걸려 있다는 것을 이해합니다. 나는 이 모든 물체를 알고 있습니다. 단지 식별만 하는 것이 아닙니다. 나는 또한 그들이 어떻게 서로 연결되어 있는지 이해합니다. 나는 내 주변 세계의 기능에 대한 아이디어를 가지고 있습니다. 그들은 완벽하지 않습니다. 틀렸을 수도 있지만 꽤 좋습니다. 그리고 이를 바탕으로 일상생활의 지침이 되는 많은 결론을 내립니다.

다른 극단은 DeepMind가 구축한 Atari 게임 시스템과 같은 것으로, 화면의 특정 위치에서 픽셀을 볼 때 수행해야 할 작업을 기억했습니다. 충분한 데이터를 얻으면 이해가 됐다고 생각할 수도 있지만 실제로는 매우 피상적이다. 이에 대한 증거는 개체를 3픽셀씩 이동하면 AI의 플레이가 훨씬 나빠진다는 것입니다. 변화는 그를 당황하게 만든다. 이것은 깊은 이해의 반대입니다.

이 문제를 해결하기 위해 클래식 AI로 돌아갈 것을 제안합니다. 우리는 어떤 이점을 활용하려고 노력해야 합니까?

몇 가지 장점이 있습니다.

첫째, 고전적인 AI는 실제로 세계의 인지 모델을 생성하기 위한 프레임워크이며, 이를 기반으로 결론을 도출할 수 있습니다.

둘째, 기존 AI는 규칙과 완벽하게 호환됩니다. 현재 딥러닝에는 전문가들이 규칙을 피하려고 노력하는 이상한 추세가 있습니다. 그들은 신경망에서 모든 작업을 수행하고 싶어하며 기존 프로그래밍처럼 보이는 작업은 수행하지 않습니다. 하지만 이렇게 해서 차분하게 해결된 문제도 있는데, 아무도 그것에 관심을 두지 않았다. 예를 들어 Google 지도에서 경로를 구축하는 경우입니다.

사실 우리에게는 두 가지 접근 방식이 모두 필요합니다. 머신러닝은 데이터 학습에는 능숙하지만, 컴퓨터 프로그램이라는 추상화를 표현하는 데는 매우 부족합니다. 클래식 AI는 추상화와 잘 작동하지만 전적으로 손으로 프로그래밍해야 하며, 이를 모두 프로그래밍하기에는 세상에 지식이 너무 많습니다. 분명히 우리는 두 접근 방식을 결합해야 합니다.

이것은 우리가 인간의 마음에서 무엇을 배울 수 있는지에 대해 이야기하는 장과 연결됩니다. 그리고 우선, 우리의 의식은 다양한 방식으로 작동하는 다양한 시스템으로 구성되어 있다는 위에서 언급한 아이디어에 기반한 개념에 대해 설명합니다.

이것을 설명하는 또 다른 방법은 우리가 가지고 있는 각 인지 시스템이 실제로 다른 문제를 해결한다는 것입니다. AI의 유사한 부분은 서로 다른 특성을 지닌 다양한 문제를 해결하도록 설계되어야 합니다.

이제 우리는 서로 근본적으로 다른 문제를 해결하기 위해 올인원 기술을 사용하려고 노력하고 있습니다. 문장을 이해하는 것은 대상을 인식하는 것과 전혀 동일하지 않습니다. 하지만 사람들은 두 경우 모두 딥러닝을 활용하려고 합니다. 인지적 관점에서 볼 때 이는 질적으로 다른 작업입니다. 저는 딥 러닝 커뮤니티에서 기존 AI에 대한 인식이 얼마나 부족한지 보고 놀랐습니다. 왜 은총알이 나타날 때까지 기다리나요? 그것은 달성할 수 없으며, 결실 없는 검색으로 인해 AI 생성 작업의 전체 복잡성을 이해할 수 없습니다.

인과관계를 이해하기 위해서는 AI 시스템이 필요하다고도 말씀하셨습니다. 딥 러닝, 기존 AI 또는 완전히 새로운 것이 이 문제에 도움이 될 것이라고 생각하십니까?

이는 딥러닝이 적합하지 않은 또 다른 영역입니다. 특정 사건의 원인을 설명하는 것이 아니라 주어진 조건에서 사건이 발생할 확률을 계산합니다.

우리는 무엇에 대해 이야기하고 있습니까? 특정 시나리오를 보고 왜 이런 일이 발생하는지, 일부 상황이 변경되면 어떤 일이 발생할 수 있는지 이해합니다. TV가 놓여 있는 스탠드를 보면서 다리 중 하나를 자르면 스탠드가 넘어져 TV가 떨어질 것이라고 상상할 수 있습니다. 이는 원인과 결과의 관계입니다.

클래식 AI는 이를 위한 몇 가지 도구를 제공합니다. 예를 들어 그는 지원이 무엇인지, 하락이 무엇인지 상상할 수 있습니다. 하지만 과찬은 하지 않겠습니다. 문제는 고전 AI가 무슨 일이 일어나고 있는지에 대한 완전한 정보에 크게 의존한다는 점인데, 스탠드만 봐도 결론이 나왔다. 나는 나에게 보이지 않는 스탠드 부분을 어떻게든 일반화하고 상상할 수 있습니다. 아직 이 속성을 구현할 수 있는 도구가 없습니다.

또한 사람에게는 선천적인 지식이 있다고 말씀하셨습니다. 이것을 AI에서 어떻게 구현할 수 있나요?

태어나는 순간 우리의 뇌는 이미 매우 정교한 시스템으로 이루어져 있습니다. 그것은 고정되어 있지 않습니다. 자연이 첫 번째 초안을 만들었습니다. 그리고 배움은 우리가 평생 동안 그 초안을 수정하는 데 도움이 됩니다.

뇌의 대략적인 초안에는 이미 특정 기능이 있습니다. 갓 태어난 산양은 몇 시간 안에 실수 없이 산허리를 내려갈 수 있습니다. 그는 이미 3차원 공간과 자신의 신체, 그리고 그들 사이의 관계에 대해 이해하고 있음이 분명하다. 매우 복잡한 시스템입니다.

이것이 부분적으로 우리에게 하이브리드가 필요하다고 믿는 이유입니다. 백지 상태에서 시작하여 길고 방대한 경험을 통해 배우는 것보다 어디서부터 시작해야 할지에 대한 비슷한 지식이 없는 세상에서 어떻게 잘 작동하는 로봇을 만들 수 있는지 상상하기 어렵습니다.

인간의 경우, 우리의 타고난 지식은 오랜 시간에 걸쳐 진화해 온 게놈에서 나옵니다. 그러나 AI 시스템을 사용하면 우리는 다른 길을 가야 합니다. 이것의 일부는 우리의 알고리즘을 구성하기 위한 규칙일 수 있습니다. 이것의 일부는 이러한 알고리즘이 조작하는 데이터 구조를 생성하기 위한 규칙일 수 있습니다. 그리고 이것의 일부는 우리가 기계에 직접 투자할 것이라는 지식일 수도 있습니다.

책에서 신뢰에 대한 아이디어와 신뢰 시스템 구축에 대해 언급한 점이 흥미롭습니다. 왜 이 특정 기준을 선택했나요?

나는 오늘 이 모든 것이 야구 경기라고 믿습니다. 우리는 신뢰할 수 없는 많은 소프트웨어를 신뢰하면서 역사상 이상한 순간을 살고 있는 것 같습니다. 나는 오늘 우리가 갖고 있는 걱정이 영원히 지속되지는 않을 것이라고 생각한다. 100년 안에 AI는 우리의 신뢰를 정당화할 것이며, 어쩌면 더 빨리 그럴 수도 있습니다.

하지만 오늘날 AI는 위험합니다. Elon Musk가 두려워하는 것이 아니라, 취업 면접 시스템이 프로그래머가 무엇을 하든 여성을 차별한다는 점입니다. 그 이유는 도구가 너무 단순하기 때문입니다.

AI가 더 좋아졌으면 좋겠어요. 나는 사람들이 AI가 작동하지 않고 위험하다는 사실을 깨닫고 고치고 싶지 않은 "AI 겨울"을 보고 싶지 않습니다.

어떤 면에서 당신의 책은 매우 낙관적인 것 같습니다. 신뢰할 수 있는 AI를 구축하는 것이 가능하다고 가정합니다. 우리는 다른 방향을 바라볼 필요가 있습니다.

맞습니다. 이 책은 단기적으로는 매우 비관적이지만 장기적으로는 매우 낙관적입니다. 우리는 정답이 무엇인지 좀 더 폭넓게 살펴봄으로써 우리가 설명한 모든 문제를 해결할 수 있다고 믿습니다. 그리고 우리는 이런 일이 일어난다면 세상은 더 나은 곳이 될 것이라고 생각합니다.

출처 : habr.com