Ein KI-Durchbruch bei Materialien oder Krebs würde die Biosicherheit auf den Kopf stellen
Watch AI materials-science and bioscience abilities closely
Yair Halberstadt argumentiert auf LessWrong, dass die Fähigkeiten von KI in Material- und Biowissenschaften ein Frühwarnsignal für existenzielle Risiken sind. Wenn ein LLM einen Raumtemperatur-Supraleiter oder ein Krebsheilmittel aus dem Stand entwickeln kann, dann könnte es auch einen Supervirus entwerfen. Gelingt das nicht, sinkt die Wahrscheinlichkeit für das Szenario „KI mailt einem DNA-Synthese-Unternehmen den Bauplan eines Supervirus“ – und wir können uns auf andere Bedrohungen und den Schutz von Laboren konzentrieren.
Wenn Frontier-LLMs in der Lage sind, Raumtemperatur-Supraleiter oder Heilmittel gegen Krebs aus dem Stand zu entwickeln, sollten wir uns extrem Sorgen darüber machen, was sie mit einem Virus anstellen.