Lennon and McAI – om kunstig intelligens, kreativitet og bærekraft

Dette er saken: Maskinene kommer. KI-temaet løper hos Ballade denne høsten, både langs sporet «Hva betyr det for kunsten?» og «Hvem får opphavsretten?»

Les essay av Odd Torleiv Furnes her, førsteamanuensis i musikk ved Høgskulen på Vestlandet, og forfatter av boken Dybdelæring i musikk. Musikalsk forståelse gjennom sansning, følelser og begreper.

Odd Torleiv Furnes er førsteamanuensis i musikk ved Høgskulen på Vestlandet. (Foto: Privat)

Kan man føle seg frem til et kreativt resultat uten å ha kunnskap, eller kan man skape nyskapende kunst og musikk uten innlevelse og følelse?

Det er mange ulike antakelser, holdninger og fordommer knyttet til spørsmål som dette. Undersøkelser blant engelske elever har for eksempel vist en motvilje mot å lage musikk ut fra spesielt to grunner: Den ene er at de tror at man må ha et medfødt talent, og den andre er frykten for at det krever at man må kunne mange regler. Ironisk nok peker disse argumentene i motsatte retninger; det ene handler om en medfødt intuitiv evne, mens det andre handler om tilegnet kunnskap.

Hva gjorde Lennon og McCartney så kreative?

Hva slags tanker og holdninger vi har knyttet til kreativ tenkning og produksjon påvirker både tanker om vår egen kreative evne og hvilke antagelser vi gjør knyttet til bruk av kunstig intelligens i kreative prosesser. Noen av oss frykter fremtiden når kunstig intelligens (KI eller AI, eng.: artificial intelligence) for alvor gjør inntog på menneskets kreative domener, mens andre slapper godt av og regner med at den kunstige intelligensen aldri vil kunne konkurrere med menneskelig, intuitiv kreativitet.

I lys av dette kan vi stille spørsmålet: Hva gjorde Lennon og McCartney så kreative? Og kunne vi byttet ut McCartney og latt Lennon samarbeide med en AI i stedet, og fått et like kreativt resultat? Eller hva om vi kun satt igjen med McAI?

Hva er det KI-maskinen kan?
Den tradisjonelle datamaskinen er full av programmer som er laget slik at dersom bruker gjør en handling, så skal datamaskinen og programmet respondere på en gitt måte; if-then.

Med KI-maskiner er bildet totalt forandret. Med utgangspunkt i enkelte forhåndsbestemte algoritmer tar KIen over og forsøker å samle og systematisere data på egen hånd; den lærer om noe den ikke kan noe om fra før. Et grunnprinsipp er at den leter etter mønstre og sammenhenger i informasjonen og lagrer dette i et stadig større hierarkisk nettverk av sammenkoblede data – såkalte nevrale nettverk.

Innen maskinlæring kalles dette deep learning, eller dyplæring på norsk. Gjennom utallige treningsrunder utvides og finjusteres det nevrale nettverket. Resultatet er KI-maskiner som kan tolke røntgenbilder svært presist, analysere været, det økonomiske markedet, eller vite hva dine musikalske preferanser er. KI-maskinen er fullstendig overlegen i sin evne til å finne mønstre og sammenhenger i svært store datamengder.

Her har vi som mennesker lite å stille opp med. En trøst for mange er at i motsetning til KI-maskinen, så har mennesket evnen til å være kreativ og skapende. Men begynner KI å puste oss i nakken, eller til og med overgå oss, også her?

Innenfor musikkfeltet er KI per i dag nok mest brukt som isolerte verktøy for eksempelvis miksing, eller for å generere forslag til rytmer, akkordprogresjoner eller melodier som komponist eller musikkprodusent kan bruke eller forkaste. Men med generativ KI har vi fått algoritmer som nesten uten menneskelig hjelp kan skape bilder, lyd, musikk og sammenhengende tekst.

Er det noen grunn til at ikke musikkfeltet også gradvis infiltreres av deepfakes?

Når for mye av produksjonen overlates til KI, kan det som genereres tidvis virke usammenhengende og virkelighetsfjernt, men vi finner også at noe av det som lages er av svært høy kvalitet. En KI-generert Ariana Grande-vokal som synger SZAs «Kill Bill» blir oppfattet som naturtro og ble godt mottatt av Grandes egne fans. Det KI-genererte bildet Théâtre D’opéra Spatial, som er basert på tekstlig input, vant en konkurranse for digital kunst i Colorado i 2022. Det møtte sterk motstand, men «kunstneren» forsvarte seg med at han ikke hadde brutt noen regler. Den høye kvaliteten kan vi også finne i såkalt deepfake («deep learning» og «fake»), der svært naturtro bilder, videoer og stemmer av virkelige mennesker er generert av KI. Frykten for å bli erstattet av KI er en av årsakene til at vi nå har hatt en massiv streik blant skuespillere og manusforfattere i Hollywood.

Det KI-genererte bildet Théâtre D’opéra Spatial vant pris under Colorado State Fair for digital kunst i september 2022. Bildet er laget av Jason Allen ved hjelp av KI-programmet Midjourney. (Foto: KI-produsert bilde)

Kunstig intelligens kan finne sammenhenger i et datamateriale som vi mennesker ikke har forutsetninger for å få til, og de KI-genererte produktene kan være av svært god kvalitet, og de blir stadig bedre. Hvis det er en reell frykt at skuespillere blir erstattet av KI, hvorfor kan ikke også musikere, vokalister, låtskrivere, komponister og produsenter også frykte det samme? Er det noen grunn til at ikke musikkfeltet også gradvis infiltreres av deepfakes?

Hva er det KI-maskinen ikke kan?
Slik ståa er i dag, er det en rekke ting en KI-maskin ikke mestrer. Dette gjelder spesifikt menneskelige evner som det å virkelig forstå, kunne gjøre seg etiske refleksjoner, tolke nyanserte følelser, samt oppfatte og vise empati og foreta intuitive valg. Og selv om KI svært presist kan analysere data, så kan den i gitte situasjoner ta avgjørelser som er feilaktige fordi den ikke er god på å tolke data i lys av kontekst.

Vil [KI] også potensielt overgå vår evne til å tolke og uttrykke «myke» menneskelige følelser og handle intuitivt?

Disse aspektene er noe pådrivere i KI-forskning er klar over. Det er årsaken til at frontiersin.org, et stort vitenskapelig forlag som står bak en rekke vitenskapelige tidsskrift, nylig etterlyste forskning og artikler under temaet «Emotions and Artificial Intelligence», med mål om å forstå «how emotions can be integrated into machines». Ønsket er å gjøre KI-maskiner mer empatiske og intuitive i møtet med mennesker, slik at de i større grad kan være nyttige blant annet innen helse, utdanning og underholdning.

Det er i seg selv etisk betenkelig å skulle forsøke å erstatte menneskelig kontakt med maskiner utstyrt med evne til empati og intuitiv tenkning og handling. KI overgår vår evne til å lagre og systematisere «hard» kunnskap. Vil den også potensielt overgå vår evne til å tolke og uttrykke «myke» menneskelige følelser og handle intuitivt? Det er en fare for at jo mer vi forsøker å utstyre KI-maskinen med menneskelige evner, dess større er sjansen for at vi gradvis skyves ut av områder i livet som vi oppfatter som meningsfylte og som bidrar til vår opplevelse av livskvalitet. Dersom vår opplevelse av en meningsfull tilværelse er truet, vil en slik bruk av kunstig intelligens ikke være bærekraftig.

Kreativitet
Hva med kreativitet – er også det et område som står for fall?

Svaret på det kommer helt an på hvordan man forstår kreativitet. Noen ser på det å være produktiv som kreativitet. Sett opp mot KI-maskinens evne til på kort tid  å generere utallige versjoner av en låt eller et bilde, så vil KI i så fall definitivt være mer kreativ enn mennesket.

Vi må imidlertid skille mellom det å generere produkter og det som inngår i en kreativ, skapende prosess. Her finner vi blant annet evnen til å se uvanlige kombinasjoner av fakta, begreper og handlinger som resulterer i kreative og originale løsninger.

Her er utfordringen for KI at den forsøker å imitere virkeligheten kombinert med at den har et optimaliseringsproblem; basert på sannsynlighetsberegninger antar algoritmen at det er et riktig svar som den må finne og lære. Med disse forutsetningene vil det å tenke «utenfor boksen» og finne uvanlige eller usannsynlige løsninger være vanskelig for KI-maskinen.

Vi finner en parallell til den kunstige intelligensens optimaliserinsproblem i såkalt «cognitive entrenchment». Dette er noe man kan se hos personer med ekspertkunnskap på et gitt område; inngående kunnskap innenfor et spesifikt område medfører at det dannes sterke nevrale bindinger i hjernen, noe som gjør tenkning og beslutningstaking innenfor ekspertområdet raskt, men samtidig mindre tilbøyelig til endring – eksperten har gått i en kognitiv skyttergrav.

En slik ensrettet, konvergent form for tenkning gjør det vanskelig å være kreativ. Det er allikevel mulig å kombinere ekspertkunnskap med kreativitet; dersom man er del av et dynamisk miljø som er preget av samarbeid, og utsettes for ulike perspektiver, tanker og ideer, så vil man i større grad kunne se sin egen kunnskap i lys av andres og finne nye og originale perspektiver og veier til problemløsning.

Det krever imidlertid en åpenhet for nye impulser. Dette samsvarer med det som kreativitetsforskningen omtaler som fleksibel og divergent tenkning. Innenfor musikken finner vi mange eksempler på at kreative løsninger oppstår i kjølvannet av slike møter. Ett eksempel er møtet mellom John Lennons og Paul McCartneys intuisjoner, kunnskaper og ferdigheter.

Fra å lage låter som først fremstod som gode versjoner av datidens Merseybeat, så kom deres personlige musikalske identiteter gradvis mer til syne. I stedet for å forsøke å følge trender – som i et KI-perspektiv dreier seg om å imitere og optimalisere en imitasjon av virkeligheten – så var de åpne for å utforske mulighetene som lå i møtet mellom deres ulike perspektiver og preferanser. Resultatet ble en eksplosjon av kreativitet som skapte original, nyskapende og stilforandrende musikk. Uten denne kollisjonen av holdninger, ideer, preferanser og ferdigheter hadde musikkhistorien vært fattigere.

Keep your friends close, but your enemies closer
Vi kan sitte og mimre så mye vi orker, men kunstig intelligens kommer til å ta stadig større jafs av det vi tenker på som menneskets domener. Her må vår kjærlighet for duppedingser og teknologisk fremskritt ikke gjøre oss blinde for de fallgruver vi står overfor. Det krever at vi er i forkant, ser mulige konsekvenser og prøver å ta styring på utviklingen.

Når regjeringen nå setter av penger til forskning på kunstig intelligens, er det en satsning som angår oss alle. Derfor er det viktig at vi møtes på tvers av fagområder for å finne de mest fremtidsrettede og helhetlige løsninger på de muligheter og utfordringer vi står overfor i utvikling og bruk av kunstig intelligens.

Vi kan ikke ignorere eksistensen av kunstig intelligens, og vi bør heller ikke gjøre den til vår fiende; om vi ikke utforsker mulighetene, så ser vi heller ikke utfordringene. Sammen med satsning på kunstig intelligens må en bred menneskelig kompetanse ivaretas og videreutvikles, slik at vi til fulle både kan utnytte det positive potensialet i KI og samtidig gi videre en verden som er bærekraftig for dyr, mennesker og natur.

Ett aspekt i dette er å forsøke å skaffe oss innsikt i den kunstige intelligensens beslutningsprosesser: I utgangspunktet foregår prosessene til en kunstig intelligens i en såkalt «black box» der vi ikke har innsikt i hvordan den resonnerer. Et forsøk på å få innsikt i disse prosessene er såkalt Explainable Artificial Intelligence (XAI). Ved å forstå prosessene kan vi ikke bare dobbeltsjekke KIens konklusjoner – vi kan også i større grad ta styring og justere algoritmene mer i tråd med blant annet etiske og bærekraftige retningslinjer, og ta kontroll over kreative og kunstneriske beslutninger.

Lennon and McAI
For kunst og musikk betyr det at vi verken må bagatellisere eller ignorere kunstig intelligens. Den er allerede tungt inne både i kunst og musikk, og om vi ikke aktivt deltar i diskursen og forsøker å styre utviklingen, så mister vi kontroll. Dersom vi skal spille på lag med utviklingen, innebærer det at vi ikke overlater kunsten til algoritmene, men involverer den kunstige intelligensen i vår kreative og kunstneriske prosess.

Vi må innse at det å bruke KI og dens overlegne «kunnskap» ikke betyr at vi selv ikke har behov for kunnskap.

Hva ville skjedd om Lennon skulle samarbeidet med McAI? Han ville fått en samarbeidspartner som var enormt kunnskapsrik og som potensielt sett hadde uovertrufne ferdigheter. På tross av enorm kunnskap ville McAI muligens være noe rigid og trangsynt fordi han antar at svaret ligger i mønstrene han ser i det eksisterende datamaterialet. Lennon på sin side ville hatt sin personlige overbevisning, sine estetiske preferanser, samt en måte å tenke og handle på som muligens ikke var innenfor KI-algoritmens foretrukne optimale løsning. Lennon ville fritt kunne velge ulike perspektiver og inspirasjonskilder, og fysisk kunne omgås både likesinnede og annerledestenkende individer. I tillegg vil Lennon kunne la seg lede av følelser og intuitive innskytelser.

Paul McCartney og John Lennon. (Foto: Wikimedia Commons/The Dutch National Archives)

Alle disse «ukontrollerbare» og irrasjonelle aspektene vil kunne tilføre McAI nødvendig input for at det kreative samarbeidet skal få den nødvendige x-faktoren og løfte den kreative prosessen opp på et høyere nivå. I en slik kreativ prosess kan vi høre hva McAI foreslår og ikke ta det som den endelige beslutningen, men som et utgangspunkt for utforsking av ulike ideer og perspektiver. Her er KI-maskinen et verktøy som ikke bare er styrt av en optimalisert imitasjon av et gitt datamateriale, men som kan fungere interaktivt og justere sin output basert på brukerens foretrukne, personlige preferanser.

Som man roper i skogen, får man svar
Sett i lys av de engelske elevenes antakelser angående behovet for talent og kunnskap når det kommer til å komponere: representerer Lennon talent og intuisjon mens McAI står for kunnskap og regler? Her mener jeg vi står overfor en stor utfordring: Vi må innse at det å bruke KI og dens overlegne «kunnskap» ikke betyr at vi selv ikke har behov for kunnskap.

Forskning viser at det er sterke koblinger mellom kunnskap, intuitiv innsikt og kreative løsninger. Dersom vi skal kunne bruke KI hensiktsmessig må vi ha inngående fagkunnskap både for å vite hva vi spør om og for å kunne forstå og eventuelt korrigere KIens output.

For å kunne få et produktivt og kreativt samarbeid med McAI, så kan Lennon altså ikke være bare intuisjon, han må også besitte musikalsk kunnskap. Med hensyn til vår egen kunnskapsdannelse og kreativitet og møtet med fremtidens KI, så har skolen derfor en viktig oppgave med å legge til rette for dybdelæring i alle fag. Om vi forblindes av teknologiens fremskritt og effektive generering av musikk, så er risikoen for at vi overlater mer og mer av den kreative og produktive prosessen til KI-maskinen.

Det vil over tid resultere i at mennesket som «styrer» maskinen får stadig mindre innsikt i musikalske prosesser og i samspillet mellom musikalske elementer og følelsesmessige reaksjoner, og til slutt ender opp med marginal musikalsk kunnskap og intuisjon, uvitende om hva kreativ flow er.

Oppgaver fremover
Vi vil aldri kunne overgå kunstig intelligens i kunnskap målt i mengde. Og selv om forskningsfronten nå retter seg mot å utruste maskiner med følelser, så må vi anta at disse «følelsene» ikke er opplevd, men kun registrering og ytre imitasjoner av følelsesuttrykk.

I møte med en fremtid der kunstig intelligens er en aktør i beslutninger innenfor både demokratiske prosesser, helse, utdanning, kunst og kultur og forskning generelt, så har vi en særdeles viktig oppgave foran oss: Foruten å ha dybdeforståelse av våre fagfelt og kunnskap om hvordan KIen opererer, så må vi øke vår etiske bevissthet som beslutningstaker på vegne av natur, klima og miljø, og styrke vår empati, emosjonelle intelligens og vår sansemessige tilstedeværelse.

Som kunstnere må vi styrke vår faglige kunnskap, estetiske sensitivitet og åpenhet for erfaringer. Vi må la kunsten være en arena for menneskelig forestillingsevne, følelser, intuisjon og forståelse, samtidig med at vi ivaretar vår rolle som kritisk aktør og pådriver i samfunnsutviklingen. I sum vil vi sitte igjen med en dybdeforståelse av både fag, samfunn, natur, mennesker og menneskelig meningsdanning som den kunstige intelligensen ikke kan lodde dypet i.

Dersom vi ikke tar jobben nå med å skape bevisste, kritiske medborgere og forbrukere av kunst og kultur, så har vi lite å stille opp med: Det er rart med det – jo mer vi utsettes for noe, dess mindre legger vi merke til det. Sett opp mot markedskrefter, er det litt naivt å tro at folk på sikt ikke vil ha KI-generert musikk.

Kunst og musikk bør være en kanal for menneskelig uttrykk, og ikke kun være fabrikkerte, kalkulerte imitasjoner med formål om økonomisk profitt. Vi kan gjerne også ha kunst og musikk for nytelsens skyld, og det er lov å tjene penger på musikken, men la for all del ikke McAI sitte og styre på alene: Det er ikke bærekraftig, verken for menneske eller musikk.