https://youtu.be/L4SWQebqhek?si=Dj6e70r_QS3ul3_8 실버의 생각은 흥미롭지만 위험해 보인다. 학습에 대해서는 칼 포퍼의 시행착오를 통한 점진적인, 그리고 낙관적인 지식 발달이론을 염두에 둔 것 같은데, AI에게 무엇이든 학습할 기회를 주고 또 그런 학습자를 만들자는 주장엔 100% 동의하긴 어렵다고 본다. 그의 말을 듣다보니 초지능이라는 이름에 걸맞은 괴물 같은 결과물이 곧 나올 거 같긴 하다. 허나 그게 인류에게 축복이 될지 재앙이 될지는 모르겠다. 특히 초지능들이 고려할만한 유일한 최고 가치라는 게, 인류가 수천년 동안 고민하고 지켜온 가치들과 유사한 것들이라기보다는 에너지의 효율적 소비에 관한 도구적 합리성이 될 공산이 클 것이다. 그렇다면 그들이 보기에 호모 사..