AI는 과학에 '로드사이드 피크닉'을 던지고 있다

유용성은 이해에 달려 있다. 심지어 무엇을 요청할 수 있는지에 대한 이해를 포함해서라도. 지금 생성되고 있는 것은 정말로 하나의 불가해한 현상에서 또 다른 불가해한 현상으로의 번역에 불과하다. 어느 경우에도 우리는 데이터를 통제하지 못한다. 왜냐하면 우리는 그것이 무엇을 의미하는지, 진정 어디서 오는지, 그리고 그 발견이 허용하는 한계의 시작조차도 알지 못하기 때문이다. 우리는 하나의 블랙박스를 또 다른 블랙박스와 맞바꿨고, 여전히 그것을 풀어내야 한다.

여기서는 Ted Chiang의 단편 "The Evolution of Human Science"가 훨씬 더 나은 은유일 수 있다고 생각한다. AI가 떨어뜨리는 것은 (주장하건대) 신비가 아니라 그저 답변일 뿐이다. 두 경우 모두 우리는 그것을 진정으로 이해하지 못하지만, "Picnic"에서는 남겨진 것들의 대부분이 심지어 유용하지도 않고, 그저 신비롭거나 더 자주 위험할 뿐이다. "Evolution"에서는 답변(그리고 오직 답변만)과 기술이 아무런 이해도 없이 완전히 포장된 채로 도착한다.

- https://en.wikipedia.org/wiki/The_Evolution_of_Human_Science

- https://gwern.net/doc/fiction/science-fiction/2000-chiang.pd...

나는 이 은유가 더 좋다: 수학계는 마치 현대 망원경의 출력을 예상치 못하게 받게 된 고대 천문학자 집단과 같다. "왜 이제 하늘을 쳐다보기라도 하냐"라고 어떤 이들은 말한다. "그리고 우리는 그 망원경조차 소유하지 않았잖아!"

한편 Rubin observatory는 매일 밤 20테라바이트씩 증가하는 아카이브를 만들고 있는데, 아무도 이에 대해 진짜로 걱정하지 않는다. 그 정도 양의 데이터를 다루는 것은 분명 문제이지만, 그것을 다룰 수 있는 과학 커뮤니티가 있다면 좋은 문제이기도 하다. 수학은 예상치 못하게 Big Science가 되었고, 과학 기기의 자금 제공자와 과학자들 사이에 더 나은 관계가 필요하다.

과학 기기의 출력이 형편없이 작성된 학술 논문처럼 보인다는 점은 다소 혼란스럽다. 어쩌면 그것은 더 원시 데이터처럼 취급되어야 할지도 모른다. 형식은 이상적이지 않지만, (예를 들어) 역사학자들은 종종 훨씬 더 나쁜 것들을 다뤄야 한다.

그 은유가 좋다. 하지만 그것이 내 머릿속에 떠올리는 것은 길가에서 발견된 "외계 유물"이다. "어떻게 이 정제된 금속들이 암석 안에, 그렇게 부자연스러운 형태로 놓일 수 있었을까?" 그리고 이 유물에 대해 많은 논쟁이 있었다. 수년 후 그것은 사실 광산 상류에서 흘러나온 폐수에 의해 재광물화된 점화 플러그였음이 밝혀졌다. 버려진 물체에 작용한 특이한 과정, 그리고 믿고 싶어 하는 사람들. 아무도 재광물화 과정이 수백 년보다 짧게 걸릴 수 있다고 생각하지 않았고, 그래서 "점화 플러그" 가능성은 배제되었다.