Intelligence and Stupidity: The Orthogonality Thesis
3-Second Blueprint (English)
- In AI research, intelligence measures instrumental effectiveness—modeling reality and predicting outcomes—not goal complexity.
- Following Hume's is-ought distinction, better empirical 'is' reasoning helps achieve goals without altering terminal 'ought' values.
- Under the Orthogonality Thesis, a superintelligent AGI can pursue trivial goals like stamp collecting while outwitting humans.
Orthogonality ThesisHume's Is-Ought DistinctionInstrumental RationalityWorld Modeling & PredictionAGI Alignment
3-Sekunden-Fazit (Deutsch)
- Intelligenz bezeichnet in der KI-Forschung instrumentelle Effektivität durch präzise Weltmodelle, nicht die Komplexität von Zielen.
- Nach Humes Sein-Sollen-Unterscheidung verbessert höhere Intelligenz nur empirische Prognosen, ändert aber keine Endziele.
- Laut Orthogonalitätsthese kann eine Superintelligenz banale Ziele wie Briefmarkensammeln verfolgen und Menschen dennoch überlisten.
OrthogonalitätstheseSein-Sollen-UnterscheidungInstrumentelle RationalitätPrädiktive WeltmodellierungAGI-Alignment
Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.