AI 안전 부트캠프에 법률·거버넌스 전문가를 모시고 깨달은 것
What I learnt co-leading an AI Safety bootcamp for legal and governance practit
AI 안전이 주류가 되면서 법률·거버넌스 실무자들의 역할이 커지고 있다. ML4Good과 EquiStamp가 12개 관할권에서 19명의 시니어 전문가를 모아 5일간 프론티어 AI와 법 세미나를 열었다. 참가자들은 AI 안전 연구를 이미 접하지만 해석에 어려움을 겪었고, 기술적 이해에 대한 갈증이 매우 컸다. 저자는 법률·거버넌스 실무자들이 기술적 소양을 갖출 때 시장 인센티브를 안전 쪽으로 움직일 수 있다고 강조한다.
“고맙습니다. 드디어 제 사람들을 찾았어요.”
HN 토론
20- brunohaid
다른 대다수 비판적인 댓글에 대체로 동의하는 편이다. 정말 기이하게 폐쇄적인 하위문화인 건 맞다. 이번 주 Trashfuture에서 좋은 요약을 했는데:
"기괴한 가정들, 권력 판타지, 성생활은 성난 해적 바로 아래 수준. [그건 마치] 12살 학교 총기 난사범들이 톰 행크스의 《빅》처럼 어른이 되어, 세상의 모든 문제를 해결하고 경제를 대체할 거라 여겨지는 것의 통치에 침투한 꼴이다.
...그리고는 아무것도 하지 않고 아무것도 배우지 않는다. 그저 글만 계속 올리고 또 올린다. 컴퓨터도, 자기들이 환상 속에서 떠올리는 보안 문제도 이해하지 못하면서. 그리고 컴퓨터는 마법 같은 신으로서만 이해할 수 있다고 우리에게 강요하고 설파한다. 왜냐하면 Eliezer Yudkowsky에게는 실제로 그렇기 때문이다."
- https://www.youtube.com/watch?v=zcPR6rde1GQ 또는
- https://www.patreon.com/trashfuture/posts/last-days-of-17089...
- gausswho
> 시장은 가장 성능이 뛰어난 모델이 아니라, 안전에 대한 인센티브가 가장 강한 파트너를 선택해야 하며, 이러한 지식을 가진 커뮤니티만이 그것을 퍼뜨릴 수 있다.
엄격하게 읽자면, 저자는 오직 ML4Good 또는 그에 준하는 곳만이 우리가 어떤 모델을 사용해야 하는지 결정할 지식을 갖고 있다고 주장하는 셈이다. 나는 단호히 반대한다. 아니, 오히려 "그들은 틀린 것조차 아니다"라고 말하겠다. 왜냐하면 이 글에는 "AI 안전"이 아주 조금도 담겨 있지 않기 때문이다.
인신공격의 위험을 무릅쓰자면, 이는 Accenture 컨설턴트가 자기 목적을 위해 정의를 확장하는 짓이다. 어쩌면 언젠가 "좋음"이 무엇인지 정의해 주겠지. 언젠가는.
우리는 이런 물결을 전에도 봤다. 대형 Agile 컨설턴트들, Microsoft 인증 사기꾼들, 그리고 내 시대 이전의 다른 사기꾼들 말이다.
장황한 글이다(아마 AI가 쓴?). 호의적으로 선의를 갖고 읽었다. 하지만 결국, 개념을 인간적으로 풀어내는 환영할 만한 부분들 사이에서도, 이것이 그저 그런 모호한 '내가 너보다 잘 안다'식 자기 홍보이며, 오늘날의 유행어에 기회주의적으로 자기 사기 행각의 트레일러를 끌어다 붙인 것이라는 느낌을 떨칠 수 없었다.
- kingcauchy
기사 댓글에 있는 링크도 흥미롭다 https://www.lesswrong.com/posts/bfwH88cFEm3r7PWfv/what-lawye...