Ser du en ukendt hunderace på gaden, kan hjernen på et splitsekund koble synet til det, du allerede ved om dyr med fire poter, snude og snor. Du ved, at det er en hund, selv om racen er ny for dig. Ifølge Hinton er det samme mønster på spil i maskinerne.
Fra udskældt idé til kæmpeindustri
I mange år blev hans forskning mødt med skepsis. Men i 2010’erne eksploderede interessen for kunstig intelligens, og i dag er Hinton ikke kun kendt som en af skaberne af moderne kunstig intelligens.
Han er også en af dem, der advarer mod den. At han – og senere en hel industri – måske har skabt noget, der kan volde os langt større problemer.
– Det her er ofte blevet fejlrapporteret i pressen, fordi medierne elskede historien om, at jeg forlod Google i 2023, så jeg frit kunne tale om risiciene ved kunstig intelligens. Det var også en del af timingen og årsagen til, at jeg forlod Google.
– Men hovedårsagen var, at jeg var gammel. Jeg var 75 år, og jeg havde arbejdet hårdt i lang tid. Jeg kunne ikke programmere lige så godt, som jeg plejede, og derfor besluttede jeg mig for at drosle ned, forklarer Hinton.
Vi skal nytænke vores opfattelse af bevidsthed
Selv om bruddet med Google altså også handlede om alder, står advarslerne ved magt.
Geoffrey Hinton stiller spørgsmålet: Hvis intelligens hænger sammen med bevidsthed, og mennesker har skabt noget, der kan blive mere intelligent end os, hvad betyder det så? Ser vi ind i en fremtid, hvor maskiner kan manipulere mennesker?
Spørger man ham, om han har set tegn på bevidsthed eller selvstændig tænkning, er svaret kort:
– Jeg tror, problemet er dette: Når folk spørger, om de er selvbevidste, eller om de har følelser, så er det ikke et videnskabeligt problem. Problemet er, hvad folk mener med det. Og jeg tror, at de fleste mennesker har en forkert opfattelse af, hvad subjektive oplevelser hos kunstig intelligens er, og hvad følelser og bevidsthed er.
Ifølge Hinton bør vi opgive forestillingen om, at menneskets bevidsthed er noget helt særligt og utilgængeligt for maskiner.
– Man begynder at se, at disse chatbots kan være lige så bevidste, som vi er. Men det at være bevidst er ikke det, vi troede, det var. De fleste menneskers opfattelse af bevidsthed er ganske enkelt forkert.
– Og når de først får styr på, hvad bevidsthed egentlig er, vil de også kunne se, at chatbots har den, siger han.