AI Red Lines - AI 행동 기준을 미리 선언하는 도구
Show HN: AI Red Lines – write down what would make you act on AI
AI Red Lines는 AI에 대해 '어떤 일이 벌어지면 행동에 나설지'를 미리 글로 적어두고 공유하는 웹 서비스입니다. 이름과 하는 일을 입력한 뒤, AI가 넘어서는 안 될 선(red line)과 그 선이 넘어졌을 때 할 행동을 명시하면 됩니다. 2016년 138개 임상시험, 약 2만 명을 분석한 Harkin 등의 Psychological Bulletin 연구를 근거로, 목표를 기록하고 타인에게 공개할수록 실행 가능성이 높아진다고 안내합니다. 실제 AI 사건 목록과 다른 사람들의 red line을 둘러볼 수 있으며, Joseph Rotblat의 사례에서 출발한 프로젝트입니다.
대부분의 우리는 자신이 왜 그 자리에 있는지 적어두지 않습니다. 상황이 천천히 변하면 멈추라고 알려주는 것이 없죠. Rotblat에게는 그 순간이 있었던 이유는 자신의 이유를 알고 있었기 때문입니다.
HN 토론
21- jhbadger
무엇이든 "레드 라인"을 정한다는 발상, 즉 지금 내린 결정이 미래에도 구속력을 가져야 한다는 생각은 좀 우스꽝스럽다고 본다. 상황은 변하고, 그에 따라 당신의 의견도 변할 수 있어야 한다. 나는 1990년대 후반에 휴대폰을 처음 봤을 때 싫어했고 평생 안 쓸 거라고 생각했지만, 2005년쯤에는 너무나 필수적인 물건이 되어 결국 굴복했다. 그다음엔 스마트폰은 안 살 거라고 생각했지만 결국 그것도 샀다. 어떤 신기술에 열광적으로 뛰어들 필요는 없지만, 그것이 표준이 된 뒤에도 스스로를 거부한다면 자기 자신만 손해 볼 뿐이다. 과거에 내린 결정을 지켰다고 누가 당신을 칭찬해 주지는 않을 것이다.
- rollinDyno
별개의 이야기지만, 예전에 AI 사용이 언제 용인될 수 있는지를 두 가지 차원으로 설명한 글을 본 적이 있다. 한 축은 LLM이 작업 전체를 대신 만들어 주는 것부터 단순히 맞춤법 오류를 고쳐 주는 것까지의 스펙트럼이었다. 다른 축이 뭐였는지는 기억나지 않는다. 그 글쓴이는 이것을 셀 매트릭스로 그리고, 자신이 용인 가능하다고 여기는 모든 지점을 초록색으로 칠한 뒤, 독자들에게 자기 선호대로 매트릭스를 색칠해 보라고 권했다. 그 글을 찾을 수가 없다. 이미 AI에게 검색을 시켜 봤지만 실패했다. 비슷한 글을 읽어 본 사람이 있나? 위임해도 되는 게 무엇인지 팀과 이야기할 때 매우 유용하다고 기억하는데, 두 번째 축이 무엇이었는지는 기억나지 않는다.
- delichon
당신의 예시는 레드 라인을 지키기 위해 도망친 사람이고, 눈에 띄는 영향도 없었다. 스타니슬라프 페트로프처럼 더 효과적인 사람을 고르는 건 어떤가? 또한 조지프 로트블랫의 뜻대로 되었다면, 통설에 따르면 2차 세계대전에서 수십만 명의 추가 목숨이 희생되었을 것이고 소련이 유일한 군사 초강대국이 되었을지도 모른다. 그것이 틀렸다고 얼마나 확신하는가?