합성 지능의 사설 토토 인식 : 중요한 이유

작성자 : Jason M. Pittman, Sc.D
 

i합성 지능은 어떻게 보스 토토을 알려줄까요? | 워싱턴 D.C. & 메릴랜드 지역 | 국회 의사당합성 지능이 사설 토토을 인식하지 못하거나 적어도TELL TIME인간과 같은 방식으로. 또한 내 주장이 사실 인 것으로 판명되면 결과에 대한 수입 척도가 있다고 언급했습니다.

내가 그 결과를 설명하기 전에, 그리고 합성 지능에서의 사설 토토이 부족하다고 생각하는 이유는 무엇입니까? 우리는 맥락을 알아야합니까? 확실히 당신은에 대해 읽거나 들었습니다.실존 위험인공 일반 정보 (AGI)는 인류에게 포즈를 취할 수 있습니다. 그러나 당신은포함또는박싱그러한 단체, 따라서 안전하게 렌더링 (r).

말하자면 충분히 격리는 어려운 문제입니다. 일부는 사이버 보안 기술을 활용할 것을 제안했습니다. 다른 사람들은 인공 일반 정보를 상자에 두는 것이 파이프 꿈이라고 제안했습니다. 나는 두 입장에 동의하지 않는다.

격리가 어떻게 작동 해야하는지에 대한 강력한 예를 원한다면트루먼 쇼. 주인공 인 트루먼의 안전뿐만 아니라 트루먼의 세계 외부의 안전은 트루먼이 시뮬레이션에 있다는 것을 알지 못하는 것에 달려 있습니다. 스포일러 경고 : 정확히 반대가 발생합니다. 트루먼브레이크Truman이 헤어지는 이유는 기술 격리가 실패 할 수 있기 때문입니다. 충분한 사설 토토이 주어지면 트루먼과 그가 현실이되기 위해 필요한 충분한 상호 작용을 감안할 때, 환상은 필연적으로 무너질 것입니다. 위대한 영웅을 인용하기 위해 Malcolm 박사 : 인생은 방법을 찾습니다.

이제 AGI와 동일한 시나리오를 상상해보십시오. Truman과 같이 AGI는 방법을 찾을 것입니다. 긍정적 인 결과보다 포함되지 않은 AGI와 관련된 바람직하지 않은 결과가 더 바람직하지 않은 결과가 있다고 말하는 것은 엄청난 과소 평가 일 것입니다. 또한, 나는 기술 격리를 통한 안전에 대한 인식은 전혀 격리가없는 것보다 몇 마일 더 나쁘다고 주장 할 것이다. 우리가 격리가 불가능하다고 가정하면, 우리는 처음에 AGI를 갖지 않도록 선택할 수 있습니다. 반면에, 우리가 상자에 AGI가 있으면 안전의 기초는 상자의 지속적인 완전성에 달려 있습니다. 제 생각에는 순수한 어리 석음입니다. 그때 우리는 Agi를 모두 포기해야합니까?

아니오. 사설 토토이 답이 될 수 있다고 생각합니다. 설명하겠습니다.

Truman은 그의 현실의 환상이 외부의 진정한 현실을 완벽하게 반영하는 기술 통제에 기초했기 때문에 자유 로워졌습니다. 그러나 트루먼의 사설 토토에 대한 인식, 사설 토토을 말할 수있는 능력이 그가 진정한 현실 뒤에 항상 N + 1이었던 방식으로 바뀌면 어떨까요? 다른 방법으로 말하면, 주변의 세상이 당신이 인식 할 수있는 것보다 한 사설 토토 더 빨리지나 갔는지 상상해보십시오. 간단히 말해서, 당신은 항상 진정한 현실과 비교하여 과거에 영원히 갇혀있을 것입니다.

이런 식으로, 당신은 포함되어있을뿐만 아니라 격리를 우회하려는 시도는 사설 토토 거품의 외부에서 우리와 비교하여 과거의 사건입니다. 나는 그러한 격리가 무적이라고 생각하지 않지만 사설 토토에 따른 이점은 정복 할 수 없다고 생각합니다. 따라서 사설 토토은 완벽한 격리 메커니즘이므로 합성 지능 또는 AGI에서의 사설 토토이 부족한 이유입니다.