Guardian Angels: Wie personalisierte LLMs Produktivität und Sicherheit vereinen

Guardian Angels: LLM Personalization for Productivity and Security

Gwern schlägt einen neuen Ansatz für hochpersonalisierte LLMs vor: sogenannte Guardian Angels, die den Nutzer nicht ersetzen, sondern dessen Werte und Präferenzen nachahmen, um ihn zu verstärken. Diese digitalen Zwillinge sollen durch dynamische Evaluation, aktives Lernen und umfangreiche Selbstgespräch-Suche entstehen. Sie versprechen Produktivitätssteigerungen für Wissensarbeiter und Schutz vor ausgefeilten Cyberangriffen. Gwern argumentiert, dass herkömmliche Chatbots versagen, weil sie nicht den Nutzer nachahmen, sondern durch ihre Anreize darauf abzielen, ihn zu ersetzen. Der Artikel skizziert Techniken und überlegt, ob Guardian Angels als Open-Source-Projekt oder Startup umgesetzt werden sollten.