Max Tegmark: “Life 3.0: Being Human in the Age of AI” | Talks at Google

JOHN BRACAGLIA는 : 안녕하세요, 제 이름은 존 Bracaglia입니다 나는 구글의 생명 과학 회사 인에서 진실로 작동합니다 나는 또한 특이점 네트워크라는 그룹을 이끌고있는 구성된 내부 조직은 3,000 명의 Google의 집중 인공 지능의 미래에 대한 주제에, 하는 우리가 오늘 여기에 있습니다

그리고 박사 맥스 테크 마크와 함께 여기에 오늘 내 기쁨입니다 간략한 소개, 맥스 테크 마크로서 유명한 과학 커뮤니케이터와 우주 론자이다, 그리고 엘론 머스크로부터 기부를 받아 들였다 실존 적 위험을 조사하기 의 인공 지능 고급 그의 연구 분야는, 의식, 멀티 버스 포함 고급 AI 위험 및 공식화 모든 것의 궁극적 인 앙상블 이론 맥스는 미국 물리 학회의 동료 선출됐다 2012 년, "과학"잡지의 돌파구를 원 2003 년 올해의, 및 작성했습니다 200 개 이상의 출판물의 구 500 개 이상의 시간을 인용하고있다 맥스 테크 마크, 여러분

[박수 갈채] 맥스 테크 마크 : 정말 감사합니다 그것은 구글 다시 여기로 정말 큰 영광입니다 그래서 많은 오래된 친구들 앞에서 이야기를 얻으려면, 인간 수준의 지능과 이상주의 너무 많이 사람이 인식합니까? NASA의 직원 : 20 초 counting– 맥스 테크 마크 : 이것은 물론이었다 넣어 아폴로 11 호 달 임무 달에 닐 암스트롱, 버즈 올드린, 마이클 콜린스 NASA 직원 : 텐, 구, 맥스 테크 마크 :이 항아리 NASA 직원은 : 점화 순서가 시작됩니다 맥스 테크 마크는 : –mission은 성공뿐만 아니라이었다 하지만 난 그것을 보여 있기 때문에 매우 고무적인 생각 즉 우리 인간이 현명 기술을 관리 할 때, 우리는 우리의 조상은 꿈 수있는 일을 할 수있다 권리? 이제 몇 가지 중요한 교훈이있다 나는 우리가뿐만 아니라,이 배울 수 있다고 생각, 그래서 내가 원하는 또 다른 여행이 이야기의 나머지 부분을 할애, 전원 로켓 엔진보다 훨씬 더 강력한 무언가에 의해, 승객이 아니라 세 명의 우주 비행사가있는 곳, 그러나 모든 인류

그럼 우리의 집단 여행에 대해 이야기하자 AI와 미래 내 친구 자언 탈린은 강조 좋아 단 로켓과 마찬가지로, 그렇지 않은 그 우리의 기술은 강력한 만들기에 충분 우리는 또한 그것을 제어하는 ​​방법을 알아 냈어에 집중해야 우리는 그것으로 가고 싶은 곳을 알아내는합니다 그리고 우리가 이야기하려고하는지입니다 나는 기회가 너무 멋진 생각 우리는이 권리를 얻는 경우에

지난 1백38억년 동안, 우리의 우주는 죽은 지루한에서 변형시켰다 에 복잡하고 흥미로운, 그리고 그것은 기회가 미래에 극적으로 더 흥미 얻을 수 우리는 망치지 않는 경우 약 4 억년 전에, 생활은 첫째, 여기 지구에 출연 그러나 박테리아처럼, 아주 바보 같은 물건이었다, 그건 정말 평생에 아무 것도 배울 수 없었다 나는 그 삶 10를 호출합니다 우리는 우리가 일을 배울 수 있기 때문에 생명 2

0을 부르는 것입니다 물론, 괴짜의 수단을 말하는 어떤, 우리는 새로운 소프트웨어 모듈을 업로드 할 수 있습니다 나는 스페인어 배우고 싶은 경우에, 나는 스페인어를 공부할 수 있습니다 지금은 내 마음에 업로드 된 모든 새로운 기술을 가지고있다 그리고 그것은 인간의 정확하게이 능력이다 자신의 소프트웨어를 설계하기보다는 무엇에 붙어 소프트웨어의 진화는 우리를 활성화시킨, 우리를 준 이 지구를 지배하는, 우리에게 무엇을 우리는 문화의 진화를 호출합니다 우리는 점차적으로 삶 3

0로 향하고있는 것 같다하는 뿐만 아니라 자사의 소프트웨어를 설계 할 수 생활이지만, 또한 하드웨어 어쩌면 우리는 지금 우리 때문에 21에있어 인공 와우 인공 무릎 얻을 수 있습니다, 이 같은 몇 가지 사소한 것들 하지만 것처럼 교묘로 생각 할 수 있었다 로봇이었다 지금은 물론, 어떠한 한계가 없을 것 당신은 자신을 업그레이드 할 수있는 방법 그래서 기술의 힘에 대한 최초의 이야기를 할 수 있습니다

물론, AI의 힘은 최근 크게 향상되었습니다 나는 정보 자체를 정의하는거야, 단지 매우 광범위하게, 기능 등 복잡한 목표를 달성합니다 나는 그런 광범위한 정의를주는거야 정말 포괄적 원하기 때문에 생물학적 정보의 모든 형태를 모두 포함 인공 지능의 모든 형태 그리고 구글에서 여기 너희들이 모두 알다시피, 인공 지능의 분명, 부분 집합 시스템 자체를 개선 할 수있는 기계로 학습 주변 환경의 데이터를 사용하여, 많은 생물 유기체 할 수있다 그리고 그 다른 부분 집합은 물론이다 우리가 신경 그물 아키텍처를 사용하는 깊은 학습

그리고 당신은 AI의 나이 돌파구를 보면, 게리 카스파로프는 그의 후방은 IBM의 딥에 의해 쫓겨 왔을 때처럼 블루, 지능 여기에, 물론, 주로 단지 넣어 인간의 프로그래머로한다 더 빨리 생각할 수있는 단지 때문에 딥 블루가 카스파로프를 이길 더 잘 기억한다 반면에, 최근 물건 반면 당신은 일리아로이 작품처럼, 구글 여기했던 그 Sutskever의 그룹은 거의 정보가 없습니다 에 대한 모든 권리, 인간에 의해 넣어? 그들은 단순한 neural– 훈련 데이터의 무리와 함께 그리고 당신은 픽셀의 색상을 나타내는 숫자에 넣어, 그리고이 caption– "그룹을 내 놓는다 젊은 사람들은 "프리즈의 게임 소프트웨어는 아무 것도 배운 적이에도 불구하고 프리스비가 무엇인지에 대한, 또는 인간이 무엇인지, 또는 사진은 무엇인가 그리고 같은 물건, 당신이 다른 이미지에 넣어 경우, 그것은 종종 매우 인상적 다른 자막을 제공합니다

내가 찾으 더욱 놀라운 얼마나 멋진 일 비디오를 수행 할 수 있습니다 그래서 구글 DeepMind 물론, 아타리 게임을 학습 그리고 너와의 사람들을 위해 전에 본하지 않은 사람이라면 몇 사람, 당신은 여기에이 신경 네트워크를 기억할 필요 간단한 강화 학습과 내장, 게임이 무엇인지 몰랐다, 패들는 무엇 이었습니까 어떤 공은이었다, 또는 그런 것을 그리고 단지에 의해 점차적으로 그것을 연습 덜 자주 공을 놓치고 시작 지점에 도착 어디 거의 전혀 그것을 놓친 없습니다 나는이 플레이 할 수있는 것보다 훨씬 더한다 그리고 진짜 키커는, 그 코스 DeepMind의 사람들, 그들은 실제로 이 영리한 트릭이 당신이 할 수 몰랐습니다 당신은 항상 구석을 목표로한다 브레이크 아웃을 연주 할 때 그리고 little–가, 약간의 터널을 구축하려고합니다

그래서이 작은 깊은 학습 소프트웨어 번 그것을 알아 냈어, 그냥 매 시간 볼이 얼마나 단지 초자연적 정확한 볼 back– 온다 그냥 구석에 곧 다시 거기를 태우고 및 재생합니다 난 단지 잘 재생 꿈을 꿀 수 지금은 물론, 매우, 매우 단순한 환경, 그 작은 두 개의 차원 게임 세계 당신이 로봇이라면, 당신은 그냥 게임 삶을 생각할 수 더 복잡한 하나

그리고 당신은 어느 정도 자신을 요청할 수 기술의 이러한 종류 배울 수 있도록 수 더 흥미로운 것들 그리고 최근에 더 DeepMind, 입체 로봇을했다 시뮬레이션 세계에서, 그냥 물어 그들은 산책과 같은 일을 배울 수 있는지 확인합니다 그리고 이것은 무슨 일이 있었는지입니다 [음악 재생] 이 소프트웨어는, 지금까지 걷는 동영상을 본 적이 없었다 그것은 걷기의 개념에 대해 아무것도 알지 못했다

모든 소프트웨어는 방법으로 임의의 명령을 전송하고하고 있었다 다른 관절을 구부리하고합니다 이 생물 관리 할 때마다 보상있어 앞으로 조금 이동합니다 그리고, 어쩌면 조금 어색 약간 펑키 보인다 하지만 헤이, 실제로 흥미로운 물건을 배운다 그래서이 매우 흥미로운 질문을 제기 의에게 얼마나 AI 갈 수 있습니까? 어떻게 인간이 의지 기계를 무엇을 할 수 있는지의 정도, 우리가 사용하지 않을 경우 궁극적으로 수행 할 수 단지 우리가 지금까지 알고있는 기술,하지만 요소 추가 진행의 모든 ​​종류의 당신의 사람들 방에 다른 곳에서 어떻게 할 건데? 나는이 풍경의 관점에서 이것에 대해 생각하고 싶다 나는이 항아리 그린 나는 하나의 단락에 의해 영감이 사진을 만든 년 전 많은에서 한스 모라 백으로 내가 좋아하는 책, 여기서 높이는 여기 나타내고 얼마나 어려운 컴퓨터가 특정 작업을 수행하는 것이있다 그리고 해수면이 얼마나 좋은 컴퓨터를 나타냅니다 지금 그 일에 있습니다

그래서 우리가 여기에서 보는 것은 그 특정 작업입니다, 체스 재생 및 산술 등 물론, 오랫동안 천천히 상승이에 의해 침수 된 기계 지능의 조류 그리고 생각하는 사람들이있다 예술과 책 쓰기와 같은 특정 작업이 있다는 것을, 또는 무엇 이건, 기계는 할 수 없을 것입니다 그리고 생각하는 사람이있다 AI의 이전 목표는 정말 해결하는 것을 우리가 지능과 모든 일 해수면이 결국 모든 잠수함 것을 의미합니다 어떤 일이 일어날? AI의 흥미로운 여론 조사가 많이있어왔다 연구자와 결론은 매우 clear–입니다 우리는 알지 못한다 조금 더 구체적으로,하지만 당신은 무엇을 찾을 수 테크노 회의론자 캠프에서 일부 사람들이있다 누구 인공 지능 연구가 궁극적으로 운명이라고 생각합니다

우리는 결코 거기에 도착 않을 것입니다 아니면 우리는 거기에 도착하는거야 지금부터 수백 년 그러나 실제로 대부분의 AI 연구자 수십 년 만에 더 일어날 생각합니다 그리고 어떤 사람들은 우리가 없다고 봐요 이 로켓을 조종에 대해 너무 걱정할 필요, 비 유적으로 말하면, 그것은 일어나지 않을 있기 때문에, 우리는 지금까지 충분히 강력거야 것을 우리가 이 항아리에 대해 걱정할 필요가 하지만 소수입니다 그리고 생각하는 사람들이있다 우리는 스티어링에 대해 걱정할 필요가 없습니다 이 보장 있기 때문에 결과는 굉장 위하여려고하고있다

나는 그런 사람들에게 디지털 유토피아를 호출합니다 그리고 이러한 관점을 존중합니다 그리고이 보장된다 생각하는 사람들도 있습니다 가지 빨아 것, 그래서 거기됩니다 스티어링에 대한 걱정에 아무 소용 없다 우리가 어쨌든 끝장 때문이다 그러나 설문 조사에서 대부분의 사람들이 내가했습니다 무엇에, 중간에, 여기에 더 착륙하는 경향이 당신이 정말로있어 유익한 AI 운동이라고 동기 부여, 실제로, 우리가 할 수있는, 물어 좋은 방향으로 일을 조종하기 위해 지금 무엇입니까? 이 굉장이 될 수 있기 때문에, 또는, 정말 대단하지 수 그리고 우리가 지금하는 일에 따라 달라집니다 나는이 웹 페이지까지, AgeofAI

org을 넣어 우리는 일반 대중의 사람들이 거기에 설문 조사를했다 이 같은 질문에 대답 할 수있다 당신도 가서 그것을 할 수 있습니다 그리고 실제로 매우 관심 일반 대중 응답이 정확히 거의 동일 그 AI 연구원은 최근 여론 조사에서했던 것처럼 이 이번 주말을 분석 내가 뭔가에서입니다 14,866 응답자

그리고 당신은 대부분의 사람들이 어쩌면 우리가 수십 년이라고 생각 참조 멀리 인간 수준의 인공 지능에서, 어쩌면 그것은 좋은 것이다 어쩌면 문제가있을 수 있습니다 그래서이 생각하는 최대한 동기를 부여하다 우리가 좋은 방향으로이 기술을 조종 할 수있는 방법에 대해 그럼 스티어링에 대해 이야기하자 우리는 어떻게 control– 수 있습니다 우리는 어떻게 우리가하고 싶은 일을하기 위해 AI를 제어 할 수 배울 수 있는가? NASA의 직원 : 리프트 오프 (lift-off) 맥스 테크 마크 :이 돕기 위해, 내 아내 메이,이다 거기에 앉아, 내가, 그리고 다른 사람, 생명 연구소의 미래를 설립했다

그리고 당신은 우리가 실제로 여기까지 단어를 '조종'을 가지고 볼 수 있습니다 우리의 사명입니다 우리의 목표는 우리가 있는지 확인하기 위해 수있는 일을하는 것입니다 이 기술은 인류에 도움이됩니다 그리고 나는 우리가 정말 영감을 만들 수 있다는 매우 낙관적 우리만큼 기술과 미래, 재배를 사이에이 경주 우승 기술의 힘과 성장의 지혜 있는 우리는 그것을 관리 할 수 ​​있습니다 그러나 나는 우리가이 경주를 이길려고하는 경우에 생각한다 우리는 실제로 전략을 이동해야, 기술 때문에 점점 더 강력 해지고있다 그리고 우리는, 불 같이 덜 강력한 기술을 발명 할 때 우리는 매우 성공적으로 전략을 사용 실수에서 배우기

우리는 발명 fire– oopsy– 후 소화기를 발명했습니다 우리는 car–를 발명 oopsy– 후 우리는 안전 벨트를 발명, 에어백, 신호등, 사물이 더 많거나 적은 미세 있었다 그러나 때 당신은 어떤 점 이상 취득 기술의 힘이 생각 의 정말 실수되고 학습, 정말 형편없는, 맞죠? 하나의 실수가 받아 들일 수 없을 경우, 당신은 실수를하고 싶지 않아 많은 그리고 우리는 핵무기, 합성 생물학에 대해 이야기 할 때, 특정 초인적 인 AI는 느낌 우리는 여기서 우리 정말 지점에있어 실수를하고 싶지 않다 우리는되는 것을 전략을 이동하려면 정확히 어떤 사전 인에 반응 슬로건 당신은 또한 당신의 일을 위해 사용하고 말했다 여기에, 이전에 구글

나는 우리가 정말에 초점을 맞출 경우, 우리는이 작업을 수행 할 수 있다는 낙관적 그것을 위해 일한다 어떤 사람들은 아니, 얘기하지 말 그냥 러 다이 트의 scaremongering 때문에 때 잘못 될 수있는 것들에 대해 이야기한다 나는 그것이 러 다이 트 scaremongering 생각하지 않습니다 나는 그것이 안전 엔지니어링 생각합니다 우리는 아폴로 달 임무에 대해 이야기로 시작했다

NASA 통해 생각하면, 매우 신중하게, 아마도 잘못 될 수있는 모든 당신은 상단에 세 명의 우주 비행사를 넣을 때 폭발성 연료의 완전이 100 미터 높이의 로켓, 그 scaremongering을 러 다이 트되지 않았습니다 그들은 정확하게 무엇을 궁극적으로 주도했다 무엇을하고 있는지 임무의 성공에 그리고 이것은 우리가 인공 지능으로 일을 할 생각입니다 게다가 나는 우리가 다른 기술에서 배운 것을, 지금까지 생각 여기에 우리가 조금 우리 게임까지 필요가있다 우리는 정말 우리가이 아이디어를 흡수하지 않았기 때문에 능동적 인로 전환합니다 오늘날, 핵무기의 측면에서 매우 특별한 날이다 우리는 9 월 (26)에 아주 가까이 왔기 때문에 3 차 세계 대전의 34 주년 인

사실, 이런 식으로 결국 수도 이 남자, 스타니 슬라 프 페트로프가 아니라이 있다면, 본능에, 그의 조기 경보 시스템이 있다고 말했다 무시는 사실이 다섯 개 들어오는 뉴트 미국 미사일이었다 그 해야 보복 될 수있다 어떻게 우리가 더 잘 할 수 있습니까? 어떻게 우리는이 지혜 경주를 이길 수 있습니까? 나는 AI 커뮤니티는 정말이 매우, 매우 행복 해요 최근 몇 년 동안이 문제에 많은 참여를 유도하기 시작했다 그리고이 방에있는 많은 사람들에게 감사 여기, 피터 노르 빅, 그리고 미래 생활에 포함 연구소, 우리는 푸에르토 리코 회의의 몇 가지를 조직했다 그리고 아실 로마, 캘리포니아에서 올해 초, 여기서 정말 아주 놀라운 합의가 있었다 매우 건설적인 여러 가지 주변 우리는이 지혜를 개발하기 위해 시도 할 수있는 오른쪽 방향으로 일을 조종 그리고 나는 타격 시간의 조금을 보내고 싶어 23 아실 로마의이 목록에서 여기에 몇 가지 하이라이트 지금 AI 1,000 명 이상의 서명 한 원칙, 전 세계의 연구자

우선, 그것은 항목 하나를 여기에 말한다 우리는 인공 지능 연구의 목표를 정의해야 단 방향성 정보를 만들기가 아니라, 하지만 유익한 정보를 확인합니다 로켓 그래서 즉, 스티어링 설계 사양의 일부입니다 그리고 또한 매우 강한 있었다 합의가, 헤이, 우리는 대답없는 질문은 잔뜩있는 경우 우리가 대답 할 필요가, 우리는 단지, 오 그래, 말 안한다 우리는 그들을 대답해야합니다 음, 우리는 우리가 과학적으로 그들에게 길을 대답해야 알고는 어려운 질문에 대답하는 가장 좋은 방법입니다, 즉, 그들을 연구에 작업을 할 수 있습니다 그리고 우리는 이런 종류의 연구 자금을해야한다 컴퓨터 과학 기금의 단지 중요한 부분으로, 기업과 산업 모두

그리고 실제로 구글의 매우 자랑스럽게 생각합니다 파트너십의 창립 멤버 중 하나 인에 대한 지원에 대단히 목표로 AI에 AI의 research– 이런 종류의 AI 안전 연구 매우 광범위한 합의했다 여기에 또 다른 원칙 공유 번영의 원칙이었다 그 AI에 의해 생성 된 경제적 번영 광범위하게 공유해야하는 것은 인류의 모든 혜택을 누릴 수 있습니다 나는 무엇을 의미합니까? 물론, 기술은 경제 파이를 성장 유지하고있다 그것은 최근 수십 년간 우리의 GDP 많이 성장하고 있어요 이 음모에 맨 윗줄를 보면 당신이 볼 수있는, 이리 그러나 당신은 또한 일반적으로 알고있는 한, 이 파이는 매우 균등하게 divvied되지 않았습니다

그리고 사실, 당신은 소득자의 하단 90 %를 보면 소득은 내가 태어난 거의 때문에, 평면 머물렀다 사실, 어쩌면 그것은 내 잘못이야 그리고 미국에서 30 %의 가난한 실제로 상당히 가난한 입수했습니다 최근 수십 년간의 실질,에있는 우리에게 주신 분노의 큰 거래를 만들었습니다 부동산 재벌 도널드 트럼프의 선거 그것은 우리에게 Brexit를 제공합니다 그리고 그것은 우리가 일반적으로 더 편광 사회를 주었어요

그래서 AI 연구자들 사이에서 매우 강력한 합의가 있었다 우리가 더 많은 부와 번영을 만들 수 있다면 그, 그리고이 기계는 모든 멋진 제품을 생산하는 데 도움 및 서비스, 우리는 확인 할 수없는 경우 모두가 우리에게이, 수치에서 더 잘 가져옵니다 어떤 사람들은 물론, 이것은 단지 말도 말 마법 뭔가 바꿀 것입니다 때문에 곧 이러한 통계있다 그리고 작업은 멀리 자동화 얻을 훨씬 더, 새로운 일자리로 대체 될 예정이 아직 존재하지 않습니다 그러나 실제로,이 데이터를 보면, 그것은 그를 지원하지 않습니다 우리는 같은 인수 그 100 년 전에 만들었을 수도 훨씬 더 많은 사람들이 농업에 종사하는 경우, 그 손실 된 모든 작업 아직 존재하지 않은 새로운 일자리로 대체 될 거라고

그리고 이것은 실제로 무슨 일이 있었는지입니다 이것은 내가 모두 여기에,이 작은 파이 차트를 만든 is– 크기에 의해 미국에서 작업 그리고 당신은 list– 관리자, 드라이버를 추락 시작할 수 있습니다, 소매 영업 사원, 출납원, 등등 당신은 21 곳으로 내려 경우에만 당신은하지 않았다 작업 범주에받을 수 있나요 존재 백년 전, 즉, 소프트웨어 개발자 안녕, 얘들 아

그래서 분명히 무슨 일이 있었는지 대부분의 농부가 된 것은 아니다 소프트웨어 개발자 무엇 대신에 일어난 일은, 일반적으로, 잃어버린 사람이었다 이후 산업 혁명과에서, 그들이 일을 자신의 근육을 사용하고 작업, 여기서 할 수있을 다른 작업에 들어갔다 일을 자신의 두뇌를 사용합니다 그리고 이러한 작업은 더 지불하는 경향이 그래서 이것은 순 승리했다 그러나 그들은 이미 이전에 존재했던 작업이었다 이제 어떻게 오늘, 무슨 일이 일어나고있는 소득 불평등의 성장을 주도하고, 사람들이 받고 있는지 유사하다 이전에 존재했던 다른 작업으로 전환했다

이 작업 때문에, 그냥이 시간이 멀리 자동화되고 대부분입니다 그들의 뇌를, 그들은 종종 사용합니다 작업 즉 적은 비용을 지불하기 전에 존재 새로운 일자리로 전환 오히려 더 많은 비용을 지불보다 그리고 나는 그것이 모두를위한 정말 흥미로운 도전이라고 생각 우리의 생각하는 방법을 우리는 최선의 수 이 성장 파이가 꺼져 모두 더 나은 수 있는지 확인하십시오 이 목록에 여기에 또 다른 항목은 원칙적으로 번호 18– 인공 지능 군비 경쟁 이것은 가장 높은 있던 하나 아실 로마 참가자 간의 모든 합의 치명적인 자치 무기의 "군비 경쟁 피해야합니다

" 이유는 무엇입니까? 음, 우선, 우리는 이야기하지 않을 원격 제어 차량 곳입니다 드론에 대한 인간은 여전히 ​​죽일 사람을 결정하는 것입니다 우리는 시스템 여기에 대해 얘기 곳 기계 자체, 기계 학습 또는 무엇이든을 사용하여, 정확히 죽을 것입니다 것을 결정한다 사람, 다음 살인을한다 먼저, 당신은 그들에 대해 생각대로, 이있었습니다 있지만 사실은,이다 투자 물론, 엄청난 양의 최근 AI의 민간 사용, 그것은이다 실제로 여기에 군사 지출에 대한 이야기에 비하면 정말 왜소, 요새 당신은 파이를 보면 그래서 진짜 위험이있다 현상 유지는 의미 것 시끄러운 빠는 소음의 대부분은 AI를 모집하기 위해 노력하고 있음 다른 곳에서 MIT와 스탠포드 졸업생, 군사 장소가 아닌 장소로 이동하는 것 구글과 같은 그리고 대부분의 AI 연구자는 그 느낌 큰 수치가 될 것입니다

나는 그것에 대해 생각하는 방법은 다음과 어떤 과학 보면, 당신은 항상 할 수 사람을 돕는 새로운 방법을 개발하기 위해 그것을 사용, 사람을 해치지 또는 새로운 방법 그리고 생물 학자들은 정말 열심히, 정말 싸웠다 그들의 과학이 지금 있는지 확인하기 사람을 치료하는 새로운 방법으로 알려져, 오히려 생물학 무기보다 그들은 매우 열심히 싸웠고 그들은 국제적인 금지를 얻었다 생물학 무기에 통과했다 마찬가지로, 화학자는 화학 무기 금지 얻을 관리 정말 공동체로서 발언에 의해 전세계 정치인을 설득 이 좋았다

그리고 그것은 왜 동료 화학은 지금이다 주로 새로운 재료와 그리고 생화학 무기를 가지고 매우 낙인이다 그래서 일부 국가가 그들을 속이고 경우에도, 아사드는 심지어 준 것이 그렇게 비난 있어요 그의 화학 무기가 침입되지합니다 그리고 당신이 할 몇 가지 화학 무기를 구입하려는 경우 뭔가 바보, 당신은 정말 열심히 찾을거야 그것 때문에 당신에게 판매거야 사람을 찾을 수 있습니다 그래서 낙인 인공 지능 사회에 대한 매우 광범위한 지원이 무엇 있습니다 정확히 같은 일이 여기에, 시도 국제 조약을 협상 어디 강대국이 모여 말, 안녕, 아웃 오브 컨트롤 아암을 갖는 주요 승자 인종과 AI의 무기는 강대국 될 수 없습니다

ISIS 될 것 및 다른 사람 감당할 수있는 사람 비싼 무기,하지만 사랑 그들은 암살하는 데 사용할 수있는 작은 싼 물건을 가지고 와 사람 익명으로, 기본적으로 제로 다운 익명의 암살의 비용을 드라이브 그리고 이것은 당신이 참여하려면 뭔가있다 유엔은 11 월에이 문제를 논의 할 예정이다 사실은 그리고 나는 더 보컬 AI 커뮤니티는이 문제에 대한 생각, 확률이 더 높다는입니다 그 AI 로켓 여기 같은 방향으로 바꾸다 것입니다 생물학 및 화학 로켓 갔다한다 마지막으로, 내가 가정 해 봅시다 최종 아실 로마에 대해 조금 여기에 원칙 나는 정말 놀라운 비록 것을 발견 몇 년 전 당신은 이야기를 시작하는 경우 superintelligence 또는 실존 적 위험에 대한, 또는 무엇 이건, 많은 사람들이 당신을 해고 것 우둔 사람의 일종으로 사람 AI에 대해 아무것도 몰랐다

이 말은 여기에 있으며, 아직이 데미스 하사 비스, DeepMind의 CEO에 의해 서명됩니다 그것은 단지 거기에 앉아 있어요 피터 노르 빅,이 서명 한 것 당신의 고유의 제프 딘에 의해, 그리고에 의해, 정말, who's-사람 AI 연구자, 그 중 1,000 그래서 사실 훨씬 더 수용이있었습니다 이봐,이 어쩌면 AI의이 이론의 부분은 사실이다, 있음 성공하는 것 어쩌면 우리는 필요 계정으로 사물의 이러한 종류의 촬영합니다 나를 조금 압축을 해제하자 무엇을 거래는이 모든 것을 함께합니다 그래서 우선, 왜 우리는 심각하게해야 재귀 자기 개발의 모든,이 아이디어 및 superintelligence? 우리는 많은 사람들이 기대하는 것을보고 우리는 수십 년에 인간 수준의 인공 지능을 얻을 수 있습니다 하지만 그 이유는 우리는 어쩌면 의미 조금 아니 우리보다 훨씬 더 똑똑한 AI를받을 수 있나요? 이에 대한 기본 인수는 매우 설득력 요약 IJ 좋은으로 그냥이 단락에서, 1965, 앨런 튜링 (Alan Turing)와 함께 일 수학자 차 세계 대전 동안 코드를 해독합니다

나는 당신이 대부분의 모든 전에이 말을 듣고 것 같아요 그는 기본적으로 우리가 컴퓨터가있는 경우, 기계 말한다 그뿐만 아니라, 우리가 할 수있는 모든 것을 할 수 있습니다 물론, 우리가 할 수있는 것 중 하나는, 디자인 AI 시스템입니다 그래서 다음은 역시 할 수있다 그리고 당신은 대신 구글 만 고용의 hire– 수 있습니다 직원은 당신을 위해 당신이 일을하는 20000000 작은 AI의 일이 당신을 위해 작업을 얻을 수 있습니다, 그들은 훨씬 빠르게 작업 할 수 있습니다 그리고 AI 개발의 속도가 더 이상 일반적인 R & D 시간으로 설정되지 않습니다 인간, 또는 년의 규모,하지만 얼마나 빨리 기계에 의해 도움이 될 수 있습니다 당신은 빠른 방법, 방법이 될 수있는이 작업을 수행 그리고 만약 우리가 여기서 하드웨어 오버행이 밝혀 우리는 사실을 보상 한 우리가 정말 수행하는 방법에 대한 종류의 우둔 필요에 의해 인간 수준의 인공 지능의 소프트웨어 추가 하드웨어 막대한 양의, 그것은 당신이 얻을 수있는 수 있습니다 개선을 통해 많은, 첫째, 심지어 단지 소프트웨어를 변경하여,하는 일입니다 도없이, 매우, 매우 신속하게 수행 할 수 있습니다 새로운 물건을 빌드합니다

그리고 거기부터 상황이이거나 먹어 수 그냥있는 기계를 얻을 수 있습니다 우리보다 훨씬 똑똑 우리는이 일이 일어날 것을 알고하지 않습니다 하지만 기본적으로, 우리가 여기에서 보는 것은 즉, 선형 연구원이를보기 위해, 우리가 심각하게해야 적어도 가능성이다 당신이 여기에서 보는 또 다른 것은 실존 적 위험입니다 그래서 더 구체적으로는, 여기 말한다 AI 시스템, 특히 실존 적 위험으로 인한 "위험, 계획 및 완화 노력에 따라해야합니다 자신의 예상되는 영향에 상응 " 그리고 실존 적 위험은 위험하다 기본적으로 그냥지고 인류를 포함 할 수 있습니다 모두 전멸

왜 당신은 아마도 걱정 것인가? 많은 절대적으로 말도 할리우드 영화가있다 터미네이터 로봇이든과, 당신도 굽실 거리는없이 볼 수 없다 그래서 심각한 이유 사람들은 무엇인가 그것에 대해 이야기 뭔가에이 기호처럼? 글쎄, 당신이 듣는 일반적인 비판이 아니라,이다, machines– 지능형 기계가 가진 것이라고 생각할 이유가 없습니다 인간의 목표를 우리가 그들을 내장 된 경우 그리고 결국, 그들은 왜해야 도 힘을 얻을, 또는 노력의 이상, 알파 – 남성 목표의 종류 자기 보존? 나는 그것을 떨어져 전환 할 때 내 노트북 ​​오른쪽 항의하지 않는 이유는 무엇입니까? 그러나 매우 흥미로운 인수는 여기있다 난 그냥 형태로 당신과 함께 공유 할 이 멍청한 가짜 컴퓨터의 게임 나는 당신을 위해 여기 받았다 그냥이 작은 파란색, 친절한 로봇 것을 상상 그의 유일한 목표는 가능한 한 많은 양을 저장하는 것입니다 큰 나쁜 늑대에서 당신은이 항아리에 넣어되지 않은이 로봇은하지 않습니다 생존, 또는 자원을지고의 목표를 가지고, 또는 그런 어떤 물건

그냥 양 절약 그것은 OK,이 귀여운 sheepies에 대한 모든입니까? 이 smart– 있다면 그것은 매우 빠르게 건 무슨 알아낼 그것이 여기에 폭탄으로 걸어 불면 경우, 전혀 양을 저장 않을거야

그래서 실제로 잘 is– 유도하는 subgoal, 의이 날라가되지 수 있습니다 자기 보존 본능을 얻을 것입니다 당신이 로봇이있는 경우 이것은 매우 일반적인 결론이다, 당신은 슈퍼마켓에 걸어 그것을 프로그램 그리고, 당신에게 음식을 구입하고 당신에게 멋진 저녁 식사를 요리 다시는 subgoal을 개발하는 것 자기 보존의이 습격 살해 들어가면 때문에 다시 음식을 길에, 그것은거야 당신에게 당신의 저녁 식사를 제공하지합니다 그래서 바로, 어떻게 든 그것을 피하려고하는거야? 자기 보존은 응급 목표 거의 기계가 가질 수있는 목표, 목표는 어려운 때문에 깨진있을 때 달성합니다 또한, 만약 robot– 로봇은 인센티브를 발견, 개발 수 여기에있어 세계의 더 나은 모델을 얻기 위해, 실제로이 있음을 발견 바로 가기는, 양이 빠른 곳에 도착하기 위해 취할 수있는 그것은 더 절약 할 수 있습니다

어떻게 세계의 작품에 대한 자세한 내용을 이해하려고 노력 당신이 상관없이 얻을 수있는 자연 subgoal이다 당신이 기계를 프로그램 근본적인 어떤 목표를 가지고 있습니다 그리고 너무, 수집 자원, 등장 할 때이 작은 로봇 여기 때문에 수 ,이 물약을 마시는 경우에 것을 발견 그 다음에 더 양을 절약 할 수 있습니다, 두 배 빠른 속도로 실행할 수 있습니다 그래서 물약을 원하는거야 그것은, 그것은 총을 취한다 때 것을 발견 할 것이다 그냥 늑대를 촬영하고 모든 먹겠지 큰 저장할 수 있습니다 그래서 자원을 갖고 싶어 할 것입니다

나는이 피라미드에 요약 한 바와 같이, 여기,이 아이디어, 매우 eloquently– 된 그것은 여기에 사는 스티브 오모 훈 드로에 의해 처음으로 언급되었다 지역에서, 그리고 닉 보스 트롬의 책에 대해 많은 이야기를한다 아이디어는 그냥 어떤 근본적인 목표는 당신입니다 꽤 개방형의 경우, 매우 지능적인 기계를 제공, 그것은 하위 목표를 개발할 수 있다는 기대하는 것은 매우 자연스러운 일 오프 스위치 및 리소스를 얻으려고 할 싶지 않다 그리고 그것은 잘 될 수 있습니다 문제가 반드시이 아니다, 보다 지능적인 실체의 존재에있는 우리 모두는 아이들로, 오른쪽, 우리의 부모와 함께 했습니까? 그것이 이유는 잘 그들의 목표 때문이었다 우리의 목표에 부합했다

그래서 거기에 문지가 자리 잡고 있습니다 우리는 우리가 이제까지 많은 힘을 줄 경우이 있는지 확인하려면 지능의 기계 비교 이상으로 우리에, 자신의 목표는 우리로 정렬됩니다 그렇지 않으면, 우리는 문제가 될 수 있습니다 그래서 요약, 이러한 모든 질문은 우리는 기술 연구의 질문에 대답 할 필요가있다 어떻게 당신이 기계 학습 할 수 있습니다 방법 make– 수 있습니다, 예를 들어, 우리의 목표를 유지, 채택? 그리고 당신에게 이야기 아주 짧은 비디오를 볼 수 나를 보자 이러한 문제 superintelligence에서 다음에 대한 약간

[키보드 CLICKS] 그리고 우리는 비디오와 더 나은 운이 시간이 있는지 알아 보자 [VIDEO PLAYBACK] – "인공 지능은 지금까지 인간을 대체 할 것인가?" 요즘 뜨겁게 논쟁 문제이다 어떤 사람들은 컴퓨터가 결국 것이다 주장 , superintelligence을 얻을 인간을 능가 할 수 모든 작업에, 그리고 인류를 파괴한다 다른 사람들은 걱정하지 마십시오 말한다 AI는 또 다른 우리가 사용할 수있는 도구 및 제어 될 것입니다, 현재 컴퓨터있다

그래서 우리는있어 물리학 및 AI 연구원 맥스 테크 마크 다시 우리와 함께 집단 테이크 아웃을 공유하는 AI의 미래에 대한 최근 아실 로마 컨퍼런스에서 그가 정리 도왔다 그리고 그는 AI 사실에서 분리 된 AI 신화를 도움이 될 것입니다 – 여보세요 – 첫째, 맥스, 컴퓨터를 포함하여 기계, 오랫동안 많은 작업에서 우리보다 더 나은왔다, 산술, 또는 직물처럼,하지만 사람들은 종종 반복적 기계 작업 그런데 왜 나는이 생각 안 기계가 할 위해 단순히 불가능 몇 가지 있습니다 뿐만 아니라 분 물리학 비디오를 만드는 사람들, 말, 등, 또는 친구를 위로하는? – 음, 우리는 전통적 지능 생각했습니다 신비한 무언가로 그에만 수 생물체, 특히 인간 존재합니다

그러나 현대 물리학의 관점에서, 지능은 단순히 특정 종류 정보 처리 및 반응의 수행 소립자의 특정 배열이 움직여 약 그리고 물리학에서 어떤 법이 없다는 것을 이 정보 처리의 종류의 일을하는 것은 불가능 말한다 인간이 이미보다 더 나은 그것은 그런 말을 할 수있는 스트레칭이 아니다 지렁이 과정 바위와 더 나은 인간보다 더 나은 정보 지렁이보다 그리고 많은 지역에서, 기계는 인간보다 이미 더 낫다 이것은 우리가 가능성만을 본 적이 제안 지능 빙산의 일각, 우리는 궤도에 걸 전체 지능의 잠금을 해제 그 자연에서 잠재적이고 인류의 번창을 돕기 위해 그것을 사용, 또는 가자미

– 그렇다면 우리는 오른쪽에 자신을 보관하지 번 창 또는-넙치의 균형? 정말 무엇, 만약 아무것도해야 우리는 superintelligent AI에 대한 걱정? – 여기에 관련된 많은 최고 AI 연구자를 가지고 것입니다 하지 기계 또는 악을 돌려 컴퓨터, 하지만 뭔가 더 subtle– 단순히 우리의 목표를 공유하지 않습니다 superintelligence 열 추적 미사일이 당신에 돌입하는 경우, 당신은 아마 그것이 악이 아니다, 걱정할 필요를 생각하지 않을 것입니다 그것은 단지 그 프로그램을 다음입니다 아니, 무엇을 당신에게 중요한 것은 열 추적 미사일이하는 일입니다 그리고 그것을 얼마나 잘하는지, 그것을 느끼고 있지 무엇을, 아니면 전혀 감정을 가지고 있는지

진짜 걱정은 악의하지만, 능력이 아니다 Superintelligent AI는 정의함으로써, 목표를 달성에 아주 좋아 그래서 우리가해야 할 가장 중요한 것은 목표는 우리와 함께 정렬되어 있는지 확인하는 것입니다 비유로서, 인간은보다 지능과 능력이 개미보다, 우리는 원하는 경우 수력 발전 댐 어디 구축 거기 개미집을있을 발생 물론, 반군 악의있을 수 있지만, 개미 너무 나쁜 고양이와 개, 다른 한편으로는, 자신의 목표를 정렬의 큰 일을했다 인간의 목표

나는 물리학 해요 비록, 의미, 나는 고양이가 귀여운 입자입니다 도움을 생각할 수 없다 우리의 우주에 배치 우리가 superintelligence을 구축 할 경우, 우리는 좋겠 개미 이상의 개와 고양이의 위치에 더 나을 또는 더 나은 아직, 우리는 방법을 알아낼 것이다 AI는 목표를 채택하는 것이 아니라, 보장하기 위해 다른 방법으로 주위보다 – 그리고 정확히 언제 superintelligence입니다 도착하는 것? 때 우리는 당황하기 시작해야합니까? – 우선, 헨리, superintelligence 부정적 일 필요는 없습니다 우리는 바로 그것을 얻을 경우에 실제로, AI는 가장 좋은 방법이 될 수 있습니다 지금까지 인류에게 일어날 수 있습니다

나는 문명에 대한 사랑 모든 AI가 증폭 그래서 만약 지능의 제품이며, 충분히 우리의 집단 지성 현재와 ​​미래의 가장 큰 문제를 해결하기 위해, 인류는 결코 전에 같이 번성 수 있습니다 둘째, 대부분의 AI 연구자들은 superintelligence 생각 멀리 적어도 수십 년이다 그러나 연구하기 위해 필요 그것은 인류에게 유익 유지 또한 수십 년이 걸릴 수 있습니다보다는 유해, 그래서 우리는 지금 당장 시작해야합니다 예를 들어, 우리는 파악해야합니다 어떻게 확인하는 기계, 인류의 공동 목표를 배울 스스로 이러한 목표를 채택, 그들도 더 똑똑로하고 목표를 유지합니다 그리고 일에 대해 우리의 목표는 동의 할 때? 우리는 기계의 목표이어야 무엇에 투표해야 하는가? 우리는 대통령이 원하는 무엇이든 할 경우, 무엇이든 superintelligence의 창조자가 원하는, 인공 지능이 결정하게? 방법에 대한 매우 현실적인 방법으로, 질문 superintelligence 함께 사는 것은 문제이다 미래의 어떤 종류의 우리는 인류 생성 할 분명히 단지 AI 연구자 왼쪽되어서는 안되며, 같은 배려와 우리와 사회적 숙련

[END PLAYBACK] 맥스 테크 마크 : 그래서 그것은 매우 최종 지점에 이르게 오늘 여기 만들고 싶어 멋진 미래를 만들어,이 지혜 경주 우승 AI와,뿐만 아니라 내가했습니다 이러한 다양한 일을하는 이야기, 우리가 정말 어떤 종류의 미래에 대해 생각해야 우리가 원하는, 우리가 원하는 목표의 어떤 종류의, 여기서 우리는 우리의 기술을 조종하고 싶다 그래서 그냥 재미, 설문 조사 나는, 우리가했던 것을 언급 우리는 그들이 미래를 위해 원하는 것을 말 또한 사람을 물었다 그리고 내가 여기 당신과 함께 공유 할 수 있습니다 다음은 내가 지난 주말에했던 분석이다

여기에 14,866 중 대부분의 사람들, 실제로 AI 모든 가고 싶은 말 방법은 superintelligence합니다 일부는 여기에, 아니 말하고 있지만 많은 사람들은 인간이 통제되고 싶어요 대부분의 사람들은 실제로 인간과 기계 모두를 원하는 함께 제어한다 작은 분율 [들리지] ,, 제어 할 기계를 선호합니다

[웃음] 그리고, 언제, 의식에 대해 많은 사람들이 물어 그들은 기계가 있다면, 그래,했다 그들은 인간처럼 지능 것처럼 행동하는 것을, 그들은 그들이 가지고 싶은 주관적인 경험은, 그래서 기계는 좋은 느낄 수 있습니다 그러나 어떤 사람들은 아니, 그들이 선호했다 의식 느끼는 사람들이하지 않는 좀비 로봇을 가진 를 끄거나 제공하는 것에 대해 죄책감을 느낄 필요가 없습니다 그 지루한해야할 일 미래 문명을 추구해야하는지의 관점에서, 우리를 느낀 대다수는 하나가되어야했다 긍정적 인 경험을 극대화하려고, 또는 그런 고통, 또는 무언가를 최소화 할 수 있습니다 그러자 더 많은 사람들이 미래 문명을하자 그들이 한이 합리적으로, 원하는 목표를 선택하십시오 어떤 사람들은 심지어하지 않았다 그들은 미래가 원하는 목표를 생각하면 그것에 대해 신경 그것은 어쩌면처럼 무의미하게 평범한 경우에도, 합리적인했다 종이 클립으로 우주를 선회

그들은 단지 인간에게 위임 괜찮했다 그러나 대부분의 사람들은 실제로 우리가있어 이후 느꼈다 이 기술을 만드는, 우리는 권리가 있습니다 이 몇 가지 상황이 가야 곳으로 말한다 모두의 광범위한 합의는이 질문에 있던 , 실제로, 어쩌면 우리는 안 단지 영원히 생명의 미래를 제한 이 작은 행성에 붙어 수 있지만 그것을 가능성을 제공 확산과 우주에 걸쳐 번성합니다 그리고 사람들은 서로 다른 미래에 대해 더 생각하세요 내 아내, 메이는 지적을 좋아하는 좋은 생각, 비록 그 당신이 당신의 자신의 경력을 계획 할 때 긍정적 인 결과를 시각화하기 위해, 다음 거기에 도착하는 방법을 알아 내려고 시도 우리는 종류의 사회로 정반대을한다 우리는 모든 것을 생각하는 경향이 그 가능성이 잘못 될 수 있고 우리는 그것에 대해 흥분

당신이 할리우드 영화를 볼 때의 거의 항상 미래의 dystopic 묘사, 권리? 그래서 내 책에 떨어진이 조금에서 얻을 수 있습니다, 전체 5 장 사고 실험의 이론이다 다른 미래 시나리오, 시도 사람들이 이야기 한 내용의 전체 범위에 걸쳐, 기타, 당신 때문에, 자신은 요청할 수 있습니다 당신은 실제로 선호하는 것 그리고 설문 조사에서 가장 눈에 띄는 것은 사람들이 매우 강하게 동의이었다 사회의 어떤 종류에 그들은 싶습니다 그리고 이것은 매혹적인 토론이다 정말 모두에 가입하는 것이 좋습니다 것이다 난 그냥 때 생각 말로 끝날거야 우리는 거기에 정말 미래를 볼 많은 흥분한다 사람들은 가끔, 최대를 물어, 당신은 AI 또는 AI에 대해입니까? 그리고 나는 무엇을 화재에 대해, 그들에게 요청하여 응답? 당신은 그것을 또는 반대인가? 물론, 그들은 걸 인정합니다 화재가 겨울에 그들의 가정을 가열하기 위해 방화 화재에 대하여

하지만, 모든 기술과 동일합니다 항상 양날의 칼이다 AI와의 차이는, 훨씬 더 강력 그냥 그래서 우리는 우리가 그것을 조종하는 방법에 더 많은 노력을해야합니다 당신은 인생이 다음 선거주기 이상 존재 할 경우, 어쩌면, 희망, 지구에서 수십억 년을위한 어쩌면 넘어, 그럼 그냥 눌러 기술을 일시 정지 forever– 그 사실은 단지 정말 짜증나 좋습니다 우리가 그렇게 할 경우, 질문 때문에 인류가 멸종 할 것입니다 여부 없습니다 질문은, 어떻게 우리를 닦아 것입니까? 그 다음 거대한 소행성 타격이 될 것 여부, 디노 스를 꺼내서 하나, 또는 다음 슈퍼 화산처럼, 또는 긴 것들의 목록에 또 하나 우리가 지구에 무슨 일이 일어날 알고 있음, 이 기술은 create– 수 있습니다 죄송합니다, 그 기술은 방지 할 수 있습니다, 그러나 기술 우리는 아직 필요가 없습니다

우리의 기술의 발전을 요구하는 것입니다 그래서, 하나, 그것은 우리의 경우 정말 어리석은 것이라고 생각 단지 멀리 기술에서 실행합니다 나는 구글 spirit–에 대한 훨씬 더 흥분 나는 "악하지 말라"이전 슬로건을 사랑 – 요구, 우리가 조종 할 수있는, 개발 [? 방향 이론적?] 기술 그래서 인생은 정말 번영 할 수 있습니까? 다만 다음 선거주기 위해, 하지만 지구에 아주, 아주 긴 시간 동안, 어쩌면 우리의 우주에 걸쳐 고맙습니다 [박수 갈채] JOHN BRACAGLIA : 정말 고마워요, 맥스

이제 우리는 관객의 질문 시간을 가지고있다 우리는 우리가 질문에 사용할 수있는 여기에 마이크를 가지고있다 또한, 나는 주변이 하나를 전달할 수 있습니다 그리고 우리가 그 일을하는 동안, 나는 도리를 풀 수 있습니다 맥스 테크 마크 : 좋아요

그리고 당신은 많은 질문이 있었다 언급 한 이후, , 간단한 질문을 유지해야합니다 그들이 실제로 질문에 있는지 확인하십시오 대상 : AI 위험은 훨씬 더 주류가 될 것 같습니다 지난 몇 년 동안 우려하고있다 무슨 일이 일어날 수 있도록 변경 왜 우리는하지 않았다 그 이전합니까? 맥스 테크 마크 : 나는 당신과 함께 동의합니다 나는 실제로이 방법으로 변경된 것을 매우, 매우 행복 해요 도움을 시도하면 변경하기 이 방법은 우리가 생명의 미래를 설립 한 주된 이유였다 연구소와 푸에르토 리코를 조직 그래서 회의와 아실 로마 컨퍼런스합니다 우리는 몇 년 전에 때까지를 생각하기 때문에, 논쟁의 종류 역기능이었다

그리고 내가 생각하는 것은 정말이 정말 일을 변경 더 나은입니다 인공 지능 연구 커뮤니티 자체 정말 종사하고있다,이 논쟁에 참여하고 그것을 소유하기 시작했다 나는 또한 훨씬 더 주류가 왜 그 생각하고, 분별 JOHN BRACAGLIA [들림] 맥스 테크 마크는 : OK, 그래서 당신은 보스입니다 우리는 온라인, 오프라인 질문을 대체해야 하는가? 당신은 질문을 읽을 수 있습니까? JOHN BRACAGLIA : 아, 확인합니다 "당신은 대부분의 구글과 같은 회사를보고 어떤 희망 우리가 이상으로 전환으로 안전을 보장하기 위해 않습니다 AI 중심의 세계? " 맥스 테크 마크 : 내가 말했듯이 그래서, 나는 생각한다 구글은 이미 필요한 정확하게 할 수있는 영혼을 가지고있다

래리와 Sergey–이 "악하지 말라"슬로건 나는 우리가 기술을 구축하지 않아야 것처럼 해석 이 멋진 때문에, 그러나 우리는 그 용도에 대해 생각해야한다 이전 톰 레러를 알고있는 당신의 사람들을 위해 에 대한 노래 "베르너 폰 브라운,"(독일 ACCENT에서 노래) 로켓이 올라가 일단 그들이 와서 어디, 무슨 상관? 그건 내 부서 아니라, 베르너 폰 브라운은 말한다 나는 구글의 "사악하지 마십시오"라는 슬로건을 볼 수 that– 사고 정반대로 주의 깊게 기술을 조종하는 방법에 대한 좋은합니다 그리고 나는 다시 그 또한 정말 흥분 구글 , AI에 대한 파트너십의 설립 파트너 중 하나입니다 이 것을 우우 있는지 확인하려고 단지 구글이하는 일에 있지 발생 하지만 사회 전반에 걸쳐 그리고는 Google 경우가 좋은 생각 정치인을 설득하기 위해 해당 문자열을 모두 뽑을 수 전 세계 심각 AI의 안전을 기금에 슬픈 사실이기 때문에 연구는, 거기에도 불구하고 AI 연구자를위한 훌륭한 뜻은, 지금이 물건을 수행하는 아직도 거의없고 자금이있다

무엇 엘론 머스크는 우리가 37 보조금을주고 도움 무엇이 필요의 양동이에 단 한 방울입니다 그리고 그것은 의미가 구글과 다른 민간 기업 AI가 더 강력하게 사물에 IP를 소유 할 그리고 그것에서 제품을 구축 할 수 있습니다 그러나이 같은 민간 기업, 그것은 그들을 위해 더 나은 모든 경우 아무도 특허 방법 안전하게 만들고, 오른쪽을 사용하여 다른 사람을 유지? 즉, 공개적으로 개발 않다면 좋아요 뭔가 공유 회사에 의해, 또는 대학, 그래서 모두가 같은 모범 사례를 사용할 수있는 사방 안전의 품질을 올립니다 대상 : 좋아요, 맥스, 내가 실제로 future–처럼, 많은 대해 어젯밤 이야기 정말 긴, 무슨 일이 일어날 아마 백년 틱 그러나 사람들은 요즘 AI를 보면, 많이하지 오늘에 바로 임박한 위험을 집중하고있다

그래서 당신은 트럼프가 선출되었다 않았다 방법에 대해 생각한다면, 그 일이, 지난 몇 년 동안 잘못된 방법 당신은 정말 AI가 기여하고 있음을 부정 할 수 없다 특히 가짜 뉴스를 많이, AI의 그 같은 제안 내용 그래서 미래에 모든 에너지에 초점을 같은 즉? 그래서입니다 정말 몇 사람들이 생각 오늘 찾고 그래서 당신은 그게 문제라고 생각하지, 또는 당신은 우리가에 더 잘 할 필요가 있다고 생각합니까? 맥스 테크 마크 : 네, 저는 있다고 생각 테크 사회에서 우리를 바보를위한 정말 좋은 기회 필요성에 대한 폭 넓은 대중과 정치인을 교육합니다 정말이 함께 참여합니다 이것은 내가이 책을 쓰고 싶었던 이유 중 하나입니다 내가 대통령 논쟁을 지켜 때 나는 생각한다 지난 선거에 대한 예를 들어, 완전히 제쳐 그들에 대해 이야기 문제에서, 나는 그냥 절대적으로 놀라운 알았는데 그들은 무엇을 이야기하지 않았다

그들 중 누구도 전혀 AI에 대해 이야기하지 않습니다 여보세요? 그들은 AI를 언급하지 않는 일자리에 대해 얘기하고 그들은 국제 안보에 대해 얘기하고 그들은 AI에 대해 이야기하지 않을 같은, 가장 큰 기술 저 밖에 그리고 난 그냥 말하는 정치인 이외에 생각 관심을 지불, 나는 그것이 또한 믿을 수 없을만큼 가치있는 것 같아요 경우 기술 사회에서 사람들의 무리 실제로 정부의 위치로 갈 수있다 정부에서 더 많은 인간 수준의 지능을 추가하려면, 바퀴에 잠되는 것을 세계 정부를 방지합니다 청중 : 내 말은,

사실상 맥스 테크 마크 : 어쩌면 우리는 단지 해야 JOHN BRACAGLIA [들림] 맥스 테크 마크 : 우리는 더 나중에 얘기하지만, 모두를 제공 할 수 있습니다 기회는 먼저 물어 대상 :여보세요? 안녕 당신은 concept–를 도입하는 경우 때 당신은 아실 로마 조약을 도입 당신은 방향성이 지능의 차이를 언급 호의적 인 정보 당신은 인간이 성공했을 경우 생각하지 마십시오 제어, 자비로운 지능을 만드는, 그들이 정말 지능을 만드는 데 실패했다? 저를 rephrase–하자 맥스 테크 마크 : 나는 완전히이 질문을 이해 모르겠어요 그냥 펀치 라인을 반복 하시겠습니까? 청중 : 내가 바꿔 것입니다

당신은 자비로운 지능이 될 것이라고 생각하십니까 우리는 방향으로 노력해야한다 지능, 또는 그 아마도 일반 지능해야한다 제어 할 수없는 이유는 무엇입니까? 맥스 테크 마크 : 그래서 그 좋은 질문입니다 당신은 내가 어떻게 생각하는지 물었다 나는 매우 열린 마음으로 노력하고 무엇을 우리가 실제로 할 수 있습니다 그리고 나는이 책을 썼다 이것도 아니고 정말 미래가해야한다고 생각 무엇을 말하는 피하고, 나는이 같은 중요한 질문이라고 생각하기 때문에, 우리는 단지 그것을 모든 사람의 지혜가 필요합니다 그리고 다시, 나는이 모든 다양한 시나리오에 대해 이야기 몇 가지 그들에게 여러 가지 옵션 중 일부에 해당하는 당신도 나열된 그리고 나는 듣고 매우 관심 어떤 다른 사람들이 것 실제로 생각 이러한 것들로 좋은 메이와 나는 매우 놀라운 발견 한 것은 우리는이 전

– 논의 할 때 나는이 책을 쓰는 때, 나는 노력에도 불구하고 있었다 아주 각 시나리오의 그나을 강조하기 어려운, 하나 하나 내가 적어도하지 않았다가 없었다 대한 몇 가지 주요 의혹 JOHN BRACAGLIA는 "당신이 깊은 신경망을 생각 하는가 방법이있을 것입니다 것은 인공 일반에 도착합니다 지성? 그렇지 않으면,이 그렇게하지 왜 근본적인 이유를 참조 할 재귀 적 자기 개선을위한 잠재력을 가지고 그 AGI의 개발 속도를 높일 수 있습니다 또는 superintelligence? " 맥스 테크 마크 : 좋아, 그건 좋은 질문입니다 그래서 although– 생각 내가 이것에 대해 두 가지를 가정 해 봅시다

우선, 우리의 두뇌가 될 것으로 보인다, 물론, 재발 성 신경 네트워크의 일종이다 그 매우 복잡하고, 인간 수준의 지능을 가지고있다 하지만 그것은 실수가 될 것이라고 생각 그 유일한 경로가 있다고 생각합니다 나는 또한 생각하는 실수가 될 거라고 생각, 그 가장 빠른 경로가 있다고 가정합니다 메이는도를 가리 키도록 좋아 하지만, 마지막으로, 몇 년 전, 아름다운 TED가 있었다 최초의 성공을 보여주는 이야기 백 년 라이트 뒤에 오는 기계, 조류, 형제는 비행기를 만들었습니다 그리고 여기 날아 yesterday– 당신이 듣고 매우 놀랄 것입니다 하지만 기계적인 조류에 오지 않았다

그것은 훨씬 더 쉽게, 더 간단한 방법이 있었다 밝혀졌다 비행 기계를 빌드합니다 그리고 나는 우리가 정확히 같은 일을 찾을 것 같아요 인간 수준의 지능 기계와 뇌는 단지 매우 다른 것들에 최적화되어 있습니다 무엇보다 빌드 귀하의 기계입니다 뇌은 – 다윈의 진화론은 건물에 대한 집착 자기 조립 수있는 일 노트북은 자기 조립 수 있다면 누가 무슨 상관? 진화는 만드는 방법에 대한 집착 사물 그 자체 수리 할 수 ​​있습니다 그것은 노트북 자체 수리 수 있다면 좋을 것이다 하지만 할 수 없습니다 당신은 아직도 그것을 사용하고 있습니다 또한 진화는 인간을위한 단순함에 대해 상관하지 않는다 어떻게 작동하는지 이해하지만 당신은 그것에 대해 많이 걱정합니다

그래서 어쩌면이 훨씬 더 복잡하다 그것이 필요 이상 단지, 그것은 자기 조립 수 있도록 어쩌구 저쩌구, 뭐든간에 내 생각 엔 최초의 인간 수준의 AI가되지 않을 것입니다 정확히 뇌처럼 작동 그것은 훨씬 더 간단 훨씬 뭔가, 그리고 어쩌면 것 우리는 later– 만들 것을 사용합니다 인간의 뇌가 어떻게 작동하는지 알아 그것은 말했다 깊은 신경 네트워크는 물론이고, 뇌에서 영감을 일부 efforts–를 사용하는 아주 영리한 계산 기술 진화가 함께했다 내 생각은 인간 수준의 AI에 가장 빠른 경로 것 실제로 깊은 신경 네트워크의 조합을 사용하여 GOFAI– 여러 가지 좋은 구식 AI 기술, 이 더 로직 기반 것들, 건물에 대한 자신의 힘을 많이, 이 같은 세계적인 모델과 사물을 구축있다

JOHN BRACAGLIA : 라이브 질문? 맥스 테크 마크 : 어쩌면 난 그냥 이것에 대해 한 가지 더 추가해야합니다 또한,이 신경망의 증가 성공 poses– 또한 정말 흥미로운 도전을 포즈 우리는 점점 더 많은 인프라를 담당 AI를 넣으면 때문에 우리의 세계에서, 정말 중요합니다 그것은 안정적이고 강력한 것이 컴퓨터가 적 추락 경우 손을 들어 이 기계라면 그건 너무 재미 없었을 것이라고 당신의 자기 차를 운전을 제어하고, 또는 해당 지역의 원자력 발전소, 또는 국가의 핵무기 시스템, 맞죠? 그래서 우리는 오늘의 버그와 해킹이 불가능한 변환 할 필요가 우리가 정말 믿을 수있는 강력한 AI 시스템으로 컴퓨터

신뢰는 무엇입니까? 신뢰는 어디에서 오는가? 그것은 사물이 작동하는 방법을 이해에서 비롯됩니다 그리고 신경 네트워크, 내가 생각하기에, 양날의 검입니다 그들은 매우 강력하지만, 우리는 그들에게 훨씬 덜 이해 기존의 소프트웨어보다 그래서 MIT에서 내 그룹에서 실제로, 우리는있어 프로젝트에 지금 매우 열심히 노력하고 내가 이해할 수있는 정보 부르는, where– 우리는 알고리즘을 마련하기 위해 노력하고 당신은 일에 신경 네트워크를 변환 할 수있는 which– 여기서 당신은 정말 그들이 작동하는 방법을 더 잘 이해할 수있다 나는 이것이 내가 격려 것이 도전이라고 생각 모두 당신도에 대해 생각합니다

당신은 어떻게 신경망의 힘을 결합 할 수 있습니다 당신이 정말로 이해할 수있는 물건 더 나은, 따라서 신뢰? 청중 : 그래서 우리가 두려워해야 AI 그것을 알아 내기 위해 superintelligence를 사용합니다 그 인간이 그 처리는 본질적이며, 단지 추가 단계와 노예? 맥스 테크 마크 : 그 멋진, 훌륭한 질문입니다 나는 여기에 모든 약 의식에서 이야기하지 않은 하지만 책 전체 8 장 그 얘기입니다 그리고 많은 사람들이 아니라, 기계가 결코 같은 말을 주관적인 경험을 가지고 아무 느낌 전혀 때문에 뭔가 느낌, 당신은 세포, 또는 탄소 원자, 또는 무엇이든 만들 수 있습니다 과학자로서, 난 정말 탄소 우월주의의이 종류를 싫어 나는, 업 쿼크, 다운 쿼크의 같은 종류로 만들어진거야 모든 컴퓨터와 같은 전자입니다

광산은 단지 약간 다른 방식으로 배치되어있다 그리고 그것은 분명히 정보에 대해 뭔가 모든 문제의 처리, 맞죠? 그리고 또한, 자기 정당화 인수의 종류 역사를 통해 사람들에 의해 사용되어왔다 오, 그것은 노예를 고문 괜찮다, 대답 그들은 영혼이 없기 때문에 그들은 아무것도 생각하지 않습니다 아, 거대한 공장에서 고문 닭에 오늘 괜찮아요 그들은 아무것도 생각하지 않습니다 때문이다 그리고 물론, 우리가 말할거야 우리의 미래 컴퓨터에 대한 그 역시 그것은 우리에게 편리하기 때문이다

그러나 그것은 사실 의미하지 않는다 그리고 나는 그것이 실제로 정말, 정말 흥미로운 것 같아요 문제는, 먼저 정확히 무엇을, 파악하기 즉, 정보 처리 시스템이 만들어 주관적 경험? 정말 존경 동료, 많은, 이것은 단지 BS,이 모든 문제라고 생각합니다 이것은 무엇 다니엘 데닛 말했죠입니다 나는 "심리학의 맥밀란 사전"에서 조회 그것은 의식이 아무런 가치가 읽기 없다는 것입니다 말했다 이제까지 작성되었습니다 하지만 난 정말이에 동의하지 않는다 그리고 사실, 내가 1 분을 보자 나는이 실제로 과학적으로 생각하는 이유를 설명 흥미로운 질문입니다

그래서 이것 좀 봐 확인을 자신에게 물어, 왜입니다 내가 왼쪽에 당신에게 450 나노 미터의 빛을 보여줄 때, 오른쪽에 650 나노 미터의 광, 왜 주관적 같이 그것을 경험 않습니다, [클릭]이 좋아하지? 왜 이런 식으로,이 좋아하지? 나는 이것이 정말 공정한 게임 과학 있음에 넣어 우리는 단순히 지금에 답변이없는 질문입니다 빛의 파장과는 아무 상관이 없다, 또는 신경 세포, 또는이 설명 것도, 하지만 그것은 관측 사실이다 그리고 나는이 왜 아무것도 같은 기분이 이해하고 싶습니다, 왜 우리는이 경험이 있습니까? 당신은 우리가 알고있는, 잘 봐, 말할 수있다 빛 센서의 3 종류가 있음 망막에서, 콘 그리고 때 난 -을 450 나노 미터 빛 한 종류를 활성화하고 나는 긴 파장을 가지고 당신에게 다음 다른 종류를 활성화하고 그들은 다양한 신경에 연결되어있는 방법을 볼 수 있습니다 당신의 두뇌의 뒷면입니다

그러나 그냥 질문을 선명하게, 의식의 신비,이 때문에 , 전혀 빛과는 아무 관계가 없다는 것을 증명한다 당신도 색상을 체험 할 수 있기 때문에 당신은 당신의 두뇌에서 다른 뉴런 꿈을 꾸고있을 때 활성, 빛이 포함되어 있지 않은 경우, 맞죠? 그래서 내 생각 엔 그 consciousness–입니다 하는 나는 주관적인 experience– 단순히 길을 의미 이 처리 될 때 정보 느낀다 특정 복잡한 방법이다 그리고 나는 어떤 방정식이 있다고 생각 우리는 어느 날 그 지정 발견 할 것이다 그 복잡한 방법은 무엇인지 우리가 알아낼 수있게되면, 그것은거야 우리가 의식을 넣을 수 있기 때문에 모두 매우 유용 할 응급실 탐지기 때 응답하지 않는 환자가 오면, 당신은 알아낼 수 그들은 증후군, 또는하지-에 잠긴 경우 그리고 그것은 또한 대답 할 수있게됩니다 이 정말 좋은 질문은 당신은 기계 여부에 대한 질문 또한 도덕적 실체로 간주되어야한다 감정을 가질 수 있습니다 그리고 무엇보다도, 내가 오늘 여기에 레이 커즈와일이 표시되지 않습니다, 그러나 그는 어느 날 레이 커즈와일에 자신을 업로드 할 수있는 경우 로봇은 수천 년 동안 살고, 그는 레이처럼 이야기 , 그는 레이처럼 보이는 그는 레이 같은 역할을 당신은 레이에 대한 위대한 느낄 수 있습니다

지금은 불멸입니다 그러나 그 기계가 단지 좀비임을 밝혀 가정 그것을 할 아무것도 아닌 것 같아, 그는 꽤 그는 않을 것 얻어 먹게 될 것이다? 괜찮아? 그리고 미래의 경우, 생활은 우리의 우주에 걸쳐 확산 일부 후 생물학적 형태로, 우리는 같은거야, 이것은 매우 흥미로운 것입니다 우리의 후손이 모든 큰 일을하고있다 우리는 행복 죽을 수 있습니다 그것은 그들이 모든 좀비와 모든 단지 무리임을 밝혀지면 그 멋진 물건은 빈 벤치 단지 연극이다, 그 빨아하지 않을까요? JOHN BRACAGLIA : 나는 도리에서 또 다른 질문을 할 수 있습니다 "당신이 생각하는 개인을위한 가장 효과적인 방법입니다 수용 또는 보안 엔지니어링 정신을 촉진하기 위해, 작업 할 때조차 하나의 결함은 허용입니다 즉, 에 프로젝트를 AI 관련? " 우선 음, I : 맥스 테크 마크 우리가 기존에서 많은 것을 배울 생각 내가 시작한 이유는 안전 공학의 성공은, 그건 달 임무를 보여줌으로써

엔지니어들에게 새로운 아무거나처럼되지 않습니다 나는 우리가 생각에 너무 익숙해 그냥 생각 AI가 작동하지 않았다, 우리는하지 않았다 사물의 영향에 대해 걱정해야합니다 그리고 지금은 영향을하기 시작, 그래서 우리는 그것을 통해 생각해야한다 그리고 또한 몇 가지 문제가 있습니다 이는 AI 정말 독특하고 고유합니다 아실 로마 원칙 중 일부는 그들에 대해 이야기 및 AI 안전 연구를위한이 연구 의제 안전 공학의 세부 사항의 정말로 긴 목록입니다 당신이 일처럼 우리가 똑똑한 사람들을 필요로 도전

그리고 나는 우리가 그것을 지원할 수 있기를 바랍니다 청중 : 그래서 또한 보안 공학의 주제에, 로켓의 많은 달에가는 길에 폭발 맥스 테크 마크 : 네 청중 : 그리고 정보의 폭발을 주어, 그것은 우리 만 할 겁니다처럼 하나의 기회가 정렬 문제가 올바른 얻을 수 있습니다 그리고 나는 우리가 심지어 정렬되지 수 있다고 생각 이 방에있는 값의 집합에, 시스템 고사하고 즉, 효율적으로 세계를 규정하는 자본주의의 몇 가지 단점이 분명히있다 때문이다

그래서 난 엘론이 회피되어 기쁘다 hopeful– 해요 우리의 마법의 모자를함으로써 내기,하지만 당신처럼 보인다 당신의 그룹, 정렬의 문제에 초점을 맞추고있다 난 그냥 가지 그냥 궁금 해요 무엇을 우리가 그것을 얻을 수있을 거라고 당신이 낙관적 바로 처음에? 맥스 테크 마크 : 그래서 우선, 그래, 로켓의 많은 폭발 하지만 당신은 로켓의 대부분을주의 것 사실, 모든 짓이야, 폭발 이 달의 임무에 폭발 로켓이 있었다이다 그들 아니 사람들이, 맞죠? 그래서 안전 공학이었다 높은 위험 물건들은 통제 된 환경에서 그것을했다 여기서 실패는 너무 많은 문제가되지 않았다 그래서 당신은 정말 고급 AI를 만들 경우, 당신은 정말 잘 이해하려면, 어쩌면 바로 인터넷에 처음 연결하지? 그래서 단점은 작습니다 당신이 할 수있는이 같은 많은 일들이있다

그리고 나는 우리가해야하는 것이 한 가지가 있다는 것을 말하고 있지 않다 특히 중 하나에 초점을 맞 춥니 다 나는 사회가 최대 브레인 스토밍 한 생각 사물의 정말 좋은, 긴 목록, 우리가 정말 그들 모두에서 작동하도록 시도해야, 그리고 우리는 길을 따라 좀 더 도전을 알아낼 수 있습니다 그러나 우리가해야 할 중요한 것은, 그래 것이 바로 지식 이 가치가있다 의 그것에 노력합시다 나는 낙관적 왜 그럼 당신도 물었다

나 그냥 정리해 드리죠 낙관론의 두 가지 종류가 있습니다 순진한 낙관론 내 낙관론처럼있다 태양은 내일 마운틴 뷰에 걸쳐 증가 할 것이라는 것을 아침에 관계없이 우리가하는 일의 그게 내가 느끼는 낙관론의 종류 아니다 기술의 미래에 대해 그런 낙관론의 종류있다 이 갈 수 있다는 낙관적 것을 잘 정말 우리를하는 경우, 정말 계획하고 그것을 위해 일한다

그게 내가 여기 느낄 낙관론의 종류입니다 우리는 멋진 미래를 만들 우리 손에있다, 하지만 그래서 그것을 우리의 소매를 걷어 붙이고 할 수 있습니다 청중 : 이봐, 맥스 그 논문에서 당신은 자격이 쓴 "왜 저렴하고 깊은 학습 일 잘합니까? " 지금 린, 그리고 Rolnick으로뿐만 아니라, 당신은 키 질문 당신은 연결을 많이 그릴 깊은 학습과 무엇의 다음 핵심 부분 사이 우리는 물리학에 대해 알고 낮은 다항식 차수, 계층 적 프로세스, 그런 것들

난 당신이했습니다 반응 어떤 단지 궁금 해요 , 물리 커뮤니티에서 모두 접수 다음 AI 커뮤니티에서 해당 시도에 종류의 그릴 일부 깊은 평행선? 맥스 테크 마크 : 일반적으로 매우 긍정적 인 피드백 그리고 또한 사람들이 지적하는 사람들 그와 관련된 추가 연구 질문을 많이, 이는 일을 정말 가치가있다 그리고 단지 속도 모두를 불러옵니다 우리가 무슨 말을하는지에 관해서는, 그래서 우리는 단지로 바뀔하지 않습니다 여기 살아남 연구 논문을 논의, 우리는 매우 문제에 관심했다 당신이 생각하는 경우 때문에 깊은 학습, 그래서 잘 작동하는 이유 순진 그것에 대해, 난 그냥 분류 할 경우에도, 개와 고양이이있는 모든 Google 이미지를 취할 나는 write– 할 나는 신경망을 할 것인지 말하자면, 1 만 개 화소를 취할 것 출력은 바로, 고양이의 확률? 당신이 그것에 대해 생각한다면 조금, 당신은 있다고 자신을 설득 할 수 불가능이 같은 이미지가 얼마나 많은이기 때문에? 그들은 단지 흑백 이미지가있어하더라도, 각 화소는 흑색 또는 백색 일 수 100 만 개 가능한 이미지의 힘이 거기에있는 우리의 우주에있는 원자는이보다 훨씬 더 많은 이미지입니다 10 오른쪽 78에있다? 그리고 각각의 이미지에 대해, 당신은 출력 확률을 가지고있다 따라서, 이미지의 임의의 기능을 지정합니다 당신은 얼마나 많은 매개 변수를 필요합니까? 글쎄, 당신은 하나를 저장하는 경우도 맞지 않을 수 천, 2 우리 코스모스 각 원자에 파라미터

어떻게 그렇게 잘 작동 할 수 있습니까? 그래서 기본적인 결론은 우리가 발견 이고, 모든 기능을 물론, 클래스 당신은 신경망 잘 할 수있는 당신이 실제로 실행할 수있는 자사의 거의 무한히입니다 모든 기능의 작은 부분 그러나 물리학 분수라고 우리에게 이야기한다 우리가 실제로 걱정하는 모든 기능의, 그들은 우리의 세계와 관련이 있기 때문에 또한 거의 무한히 작은 부분이다 그리고 편리하게, 그들은 거의 같은입니다 나는이 행운이라고 생각하지 않습니다 나는 다윈의 진화론이 우리에게 준 생각 신경망 기반 컴퓨터의 특정 종류의 그것은 정말 태핑 잘 조정 된 것 정확하게 때문에 계산 요구의 종류에 우리의 우주는 우리에게 걸려 것을

그리고 나는 더 많은 채팅 기쁘게 수 있습니다 이에 당신이 나중에에 대한 느슨한 끝, I 때문에 훨씬 더 재미 있다고 생각 물건이에서 수행한다 JOHN BRACAGLIA : 한 도리 질문을 가져 가라 "AI의 시대에 인간 인 것은 자기 중심적인 노력처럼 보인다 그것은 우리 종에 대한 부당한 특수 상태를 제공합니다 왜 우리는 심지어 인간을 유지 귀찮게한다 우리는 우리의 한계를 극복하기 위해 얻을 수있는 경우 우리가 얻을 어디서 볼 수? " 맥스 테크 마크 : 좋아 [웃음] "우리에게 과분한 특별한 지위를주는 자기 중심적 노력 우리의 종

" 글쎄, 우선, 당신도 알다시피, 난 우리의 경계를 밀어 전적으로 잘 나는이 일을 옹호했습니다 나는 그것을 매우 짜증나는 인간의 오만 경우를 찾아 의미 우리는 가두 연설에 가서 우리는 것 같은, (깊이) 우리는 창조와 아무것도의 절정 지금까지 우리보다 똑똑하고, 우리는 지금 시도 할 수 있습니다 어떻게 든 인간의 예외주의에 대한 우리의 전체 자기 가치를 구축합니다 나는 그 절름발이의 종류 생각합니다 넌 그 반면에 우리는 아마이 마지막 질문해야한다 한편, 자기 중심 efforts– 아니라, 우리는 단지입니다 ones– 그것은 지금이 대화에 단지 우리 인간의 누군가가 있어야합니다

그래서 바로 얘기하고 정말 우리에게 달려? 우리는 변명으로 생각의이 종류를 사용할 수 없습니다 단지 그것에 대해 그냥 이야기하지합니다 일부 완전히 통제되지 않은 미래에 범블 나는 우리가 방향타에 확고한 그립을해야한다고 생각 그리고 우리가 조종하기로 결정 어떤 방향으로 조종 그래서 저와 주셔서 너무 다시 한번 감사하겠습니다 그것은 여기에있을 수있는 멋진 즐거움입니다 [박수 갈채] 그리고 당신은 당신이하지 않았다 더 이상 질문이있는 경우, 여기에 서명 책이 될거야, 그리고 좀 더 채팅 드리겠습니다

JOHN BRACAGLIA는 :,, 맥스 오는 감사에 대한 여러분 모두 감사합니다 구글 이야기합니다 맥스 테크 마크 : 그리고 저를 가지고 주셔서 감사합니다

Inside Google’s DeepMind Project: How AI Is Learning on Its Own | Max Tegmark

나는 단순히 복잡한 목표 달성에 얼마나 좋은 일 같은 지능을 정의합니다 인간의 지능 오늘날 다수의 기계 정보 오늘부터 매우 다르다 방법

첫째, 과거에 기계 지능에 그냥 항상 열등로 사용 인간의 지능 점차적으로 기계 지능은 매우 특정의 인간의 지능보다 더있어 빠른 포켓 계산기처럼 숫자를 곱 또는 큰 기억과 같은 좁은 영역, 정말 빠른 데이터의 양 우리가 지금보고있는 것은 그 기계의 지능이 그 좁은에서 약간 퍼지는이다 봉우리와 조금 더 넓은지고 우리는 여전히 인간의 지능, 인간 아이가 할 수있는만큼 광범위 아무것도 없다 거의 모든 목표 꽤 좋은 얻을 배울 수 있지만, 그 예를 들어, 지금은 시스템이 컴퓨터 게임의 다른 종류의 전체 넓은 길을 재생 배울 수 또는 드라이브하는 법을 배워야 꽤 다양한 환경에서 자동차 그리고 어

어디에서 일을 분명히 AI에 가고는 폭을 증가하고, AI의 성배됩니다 연구는 인간의 지능만큼 광범위 기계를 구축하는 것입니다, 그것은 좋은 얻을 수 있습니다 아무것도에서 그 일어난 일단 단지 인간만큼 폭 넓은 될 것 아니에요 매우 가능성 하지만 지금은 그냥 오른쪽이 아닌, 모든 작업에서 인간보다도 더 나은 나는 꽤 컴퓨터 괴상한 나 자신이야 고백해야합니다

나는 고등학교와 대학에서 다시 일부 컴퓨터 게임을 쓴, 그리고 최근 내가 봤는데 MIT에서 내 연구실 깊은 학습 연구를 많이하고 그래서 정말 좋아 저 멀리 날려 뭔가 "워"내가 처음이 구글 보았다 때 처음부터 컴퓨터 게임을 배운 DeepMind 시스템 당신은 컴퓨터 게임이 무엇인지 몰랐, 신경 네트워크 시뮬레이션이 인공 있었다, 그것은 화면, 당신은 단지 숫자에 공급 무엇인지 모르고, 컴퓨터가 무엇인지 몰랐다 그 화면에 서로 다른 색상을 표현하고 다른 출력 할 수 있음을 말했다 또한 대해 아무것도 모르는 다른 키 스트로크에 해당하는 숫자, 다음 그냥에게 점수를 먹이 유지하고, 모든 소프트웨어 아는 것은 무작위로 수행하려고하는 것이 었습니다 그 점수를 극대화 할 물건을한다 나는 화면 한 번 데미스 하사비스, 구글 DeepMind의 CEO에이를보고 기억 를 보였고,이 일을 정말 총 BS 전략을 연주하고 모든 손실 얼마나 첫번째보고 시간 후 다음 점차적으로 더 나은 얻고, 다음은 나보다 더 나은 얻고, 그것은 당신이 반송되어있는 브레이크 아웃이 미친 전략 (파악하면서 는 왼쪽 상단 모서리까지를 목표로 계속 것입니다 벽돌 벽의 떨어져 공) 거기에 구멍을 천공하고 다시 단지 주변에 튀는 공을 가지고 미친 많은 점수를 달성했다

그리고 나는 "우와, 즉 지능이다!", 같았다 그리고이 프로그램 사람은 심지어 그들이 때문에 그 전략에 대해 알고하지 않았다 매우 그 게임을하지 않았다 이 기계 지능이 작성자의 지능을 능가하는 방법에 대한 간단한 예입니다 인간의 자녀와 같은 방법으로 훨씬보다 더 지능이되고 결국 수의 부모가 교육을 잘합니다 이것은 단지 작은 작은 컴퓨터 바탕 화면에 미칠 수있는 하드웨어의 일종이다 지금 가장 큰 컴퓨터 시설까지 확장 상상하면 우리가 세계에 있고 내가 바로 그 그럴듯한 생각, 우리에게 알고리즘 개발의 더 수십 년을 제공 우리는 단지 우리보다 더 나은 컴퓨터 게임을 배울 수있는 기계를 만들 수 있지만, 게임 삶을 볼 수 있으며 우리보다 더 나은 모든 것을 할 수 있습니다