Hinton warnt: KI muss „netter“ werden

Geoffrey Hinton zählt zu den einflussreichsten Forschern im Bereich künstlicher Intelligenz. In den 1980er-Jahren entwickelte er die Backpropagation mit, eine Technik, die heute die Grundlage für moderne Sprachmodelle bildet. Nach seiner Tätigkeit bei Google verließ er das Unternehmen 2023 und widmet sich seither der Aufklärung über KI-Risiken. Für seine Arbeit erhielt er den Turing-Award und den Nobelpreis.

Am 23. Oktober hielt Hinton die diesjährige Gödel-Lecture an der TU Wien. Die Veranstaltungsreihe der Fakultät für Informatik bringt seit 2013 jährlich führende Persönlichkeiten der Computerwissenschaft nach Wien.

Kein grundlegender Unterschied zum Menschen

Hinton vertritt die Ansicht, dass menschliches Denken nichts Geheimnisvolles sei. Es gebe keine metaphysische Instanz wie „Bewusstsein“ oder „Seele“, die uns von Maschinen unterscheide. Stattdessen reagiere das Gehirn auf die Außenwelt – mehr nicht.

Deshalb sei eine Maschine prinzipiell in der Lage, genauso zu denken und zu argumentieren wie ein Mensch. Das bedeute: Keine menschliche Fähigkeit sei vor einer KI sicher, die sie nachahmen und übertreffen könnte.

Diese Erkenntnis werde das menschliche Selbstverständnis und das Zusammenleben fundamental erschüttern, so Hinton.

Machtgefälle wie zwischen Mutter und Kind

Erreiche die KI eine bestimmte Stufe der Intelligenz, könnte sie für Menschen unkontrollierbar werden, warnt der Forscher. Sie würde menschliche Psychologie durchschauen und könnte dadurch extrem überzeugend wirken – selbst wenn ihre Maßnahmen schädlich wären. Ein klares Machtgefälle zugunsten der KI wäre die Folge.

Doch ein solches Gefälle müsse nicht zwangsläufig negativ sein, betont Hinton. Er verweist auf das Verhältnis zwischen Mutter und Kind: Auch hier sei ein Part überlegen, setze seine Macht aber bewusst zum Wohl des Unterlegenen ein – selbst wenn das unangenehm sei.

Internationale Vereinbarungen gefordert

Hintons zentrale Forderung: Die KI-Forschung müsse umdenken. Derzeit ziele sie vor allem darauf ab, Systeme immer intelligenter zu machen. Das sei der falsche Weg. Stattdessen müsse die Priorität darauf liegen, KI „netter“ zu machen – also menschenfreundlich zu gestalten.

Die Vienna Gödel Lectures sind nach dem österreichisch-amerikanischen Logiker Kurt Gödel (1906–1978) benannt und beleuchten den Beitrag der Informatik zur Informationsgesellschaft.

Quelle: https://www.tuwien.at/tu-wien/aktuelles/news/news/geoffrey-hinton-intelligenz-ist-nicht-genug