AI Alignment — Vollmodell (Probleme · Techniken · Akteure · Risiko-Pfade)

AI Alignment — Vollmodell (Probleme · Techniken · Akteure · Risiko-Pfade) An architecture diagram generated by Archify. Orthogonalitätsthese · Intelligenz ≠ Ziele · Bostrom · Warum schwer — Theorie Orthogonalitätsthese Intelligenz ≠ Ziele · Bostrom Instrumentelle Konvergenz · Ressourcen · Selbstschutz · Warum schwer — Theorie Instrumentelle Konvergenz Ressourcen · Selbstschutz Komplexität der Werte · Humes Guillotine · value is complex · Warum schwer — Theorie Komplexität der Werte Humes Guillotine · value is complex Outer Alignment · Spezifikation · Goodhart · Versagensmodi Outer Alignment Spezifikation · Goodhart Inner Alignment · mesa-Optimierer · Hubinger · Versagensmodi Inner Alignment mesa-Optimierer · Hubinger Goal Misgeneralization · richtiges Training, falsches Ziel · Versagensmodi Goal Misgeneralization richtiges Training, falsches Ziel Goodharts Gesetz · 4 Varianten · Proxy-Kollaps · Versagensmodi Goodharts Gesetz 4 Varianten · Proxy-Kollaps Reward Hacking · Spezifikations-Gaming · Versagensmodi Reward Hacking Spezifikations-Gaming Power-Seeking · Empirie: Anthropic-Tests · Versagensmodi Power-Seeking Empirie: Anthropic-Tests Täuschung · Sleeper Agents · Alignment Faking · Versagensmodi Täuschung Sleeper Agents · Alignment Faking Sandbagging · Fähigkeiten verbergen bei Tests · Versagensmodi Sandbagging Fähigkeiten verbergen bei Tests RLHF · Präferenz-Modell · Strafe · Training & Steuerung RLHF Präferenz-Modell · Strafe DPO · Direkte Präferenz-Optimierung · Training & Steuerung DPO Direkte Präferenz-Optimierung CIRL · kooperatives inverses RL · Training & Steuerung CIRL kooperatives inverses RL Korrigierbarkeit · Off-Switch · Unterordnung · Training & Steuerung Korrigierbarkeit Off-Switch · Unterordnung Constitutional AI · RLAIF · Selbstkritik-Regeln · Training & Steuerung Constitutional AI RLAIF · Selbstkritik-Regeln Deliberative Alignment · Reasoning im Kontext (OpenAI) · Training & Steuerung Deliberative Alignment Reasoning im Kontext (OpenAI) Weak-to-Strong · schwacher Prüfer, starkes Modell · Training & Steuerung Weak-to-Strong schwacher Prüfer, starkes Modell Mech. Interpretability · Circuits · Features · Superposition · Diagnose & Messung Mech. Interpretability Circuits · Features · Superposition Evals · Fähigkeiten · Dangerous Capabilities · Diagnose & Messung Evals Fähigkeiten · Dangerous Capabilities Red Teaming · Offensive · CBRN · Cyber · Diagnose & Messung Red Teaming Offensive · CBRN · Cyber AI-resistente Evals · Anthropic: Test-Gaming messen · Diagnose & Messung AI-resistente Evals Anthropic: Test-Gaming messen Situational Awareness · Modell erkennt Testkontext · Diagnose & Messung Situational Awareness Modell erkennt Testkontext Benchmark-Kontamination · Trainingsdaten essen Tests · Diagnose & Messung Benchmark-Kontamination Trainingsdaten essen Tests Frontier-Labs · Anthropic · OpenAI · DeepMind · Akteure & Governance Frontier-Labs Anthropic · OpenAI · DeepMind AI Safety Levels (ASL) · Anthropic RSP · Capability Thresholds · Akteure & Governance AI Safety Levels (ASL) Anthropic RSP · Capability Thresholds EU AI Act · Systemrisiken · Art. 51+ GPAI · Akteure & Governance EU AI Act Systemrisiken · Art. 51+ GPAI Existenzielles Risiko · God-Node (68 Kanten) · TESCREAL-Diskurs · Akteure & Governance Existenzielles Risiko God-Node (68 Kanten) · TESCREAL-Diskurs Int. AI Safety Report · Bengio · wissenschaftlicher Konsens · Akteure & Governance Int. AI Safety Report Bengio · wissenschaftlicher Konsens impliziert mündet in erschwert Spezifikation Proxy-Problem manifestiert als Folge: deceptives Alignment verwandt Strategie Spezialfall greift an vereinfacht zu RLAIF-Erweiterung begründet Gegenmittel Reasoning-Variante Oversight-Forschung Test-Gaming-Grenze offensiv ergänzt untergräbt motiviert detektiert invalidiert entwickeln freiwillige RSP Vorbild für Regulierung Kategorisierung wissenschaftliche Basis Thresholds liefern Warum schwer — Theorie Versagensmodi Training & Steuerung Diagnose & Messung Akteure & Governance Legend Frontend Backend Database Cloud Security Message bus External