Konsensusmaskinen
I fjor var LinkedIn-feeden min i ferd med å degenerere til en evig strøm av de samme rådene, de samme formatene og de samme hot-takes om KI. Så snudde det, takket være en justering av algoritmen.
Det løste problemet for plattformen og meg som konsument av innholdet, men det løste ikke problemet for den som prøver å nå ut med budskapet sitt på LinkedIn.
Jeg vil vise deg hvorfor med et tankeeksperiment i syv steg.
- Du spør Claude: «Hva bør jeg poste på LinkedIn for å få rekkevidde?»
- Claude søker gjennom artikler og eksisterende poster. Destillerer «sannheten» om hva som funker.
- Et av rådene: skriv om hva du bør skrive om på LinkedIn for å få rekkevidde. Meta, men logisk.
- Du og tusenvis av andre følger rådet. Claude skriver posten for deg. Koster deg nesten ingenting å publisere.
- Claude plukker opp alle disse nye postene neste gang noen spør. Signalet forsterkes.
- Du poster i praksis det samme som alle andre og drukner i støyen.
Yuval Noah Harari bruker begrepet «intersubjektiv virkelighet» i Nexus. Selv om dette begrepet ikke er bokens hovedpoeng, har tankegodset helt konkrete implikasjoner. Delte «sannheter» styrer hvordan samfunn fungerer, selv om de er delte forestillinger og ikke nødvendigvis er sanne. Fra «en krone er verdt x dollar» til «det er ulovlig å kjøre 50 i 30-sonen». Disse har alltid blitt skapt av mennesker gjennom institusjoner som kirker, stater, finansmarkeder og medier.
Boken er interessant lesning, men den er ikke akkurat en håndbok for næringslivsledere. Så la meg oversette til noe konkret.
KI-modellene er nå aktive agenter i hvordan disse delte sannhetene dannes. Og de har to egenskaper som gjør dette annerledes enn det vi er vant med.
De komprimerer mangfoldige kilder til konsensus i en hastighet vi aldri har sett. Hundrevis av artikler, tusenvis av poster, destillert til én «sannhet» på sekunder. Og konsensus-agenten er usynlig. Du merker ikke at du tenker det samme som alle andre, fordi du fikk svaret fra det som føles som en personlig rådgiver.
LinkedIn-eksempelet er relativt uskyldig. Verre ting enn dårlige LinkedIn-poster har skjedd i historien. Men mekanismen er den samme i mye viktigere sammenhenger.
Si du kjøper et KI-system som skal produsere innhold på LinkedIn og andre kanaler for å drive salg. Systemet analyserer hva som «funker», produserer innhold basert på det, og publiserer. Høres fornuftig ut. Problemet er at konkurrentene dine kjøper det samme systemet, eller et tilsvarende system trent på de samme kildene. Alle ender opp med å si det samme. Verdien av investeringen din faller mot null, og du vet det ikke før du har brukt et halvt år og noen hundre tusen på å finne det ut.
Dette er ikke et hypotetisk problem. Enhver som har scrollet gjennom LinkedIn de siste månedene ser resultatet allerede. Feedene er fulle av poster som føles generiske, fordi de ER generiske. De er konsensus-output fra modeller som har lest de samme kildene.
Eller tenk på prisoptimering. Du ruller ut en KI-agent som dynamisk justerer prisene dine basert på konkurrentenes priser. Konkurrentene gjør det samme. Agentene reagerer på hverandre i en feedback-loop ingen av dere har kontroll over. Resultatet er antakeligvis ikke det noen hadde tenkt at det skulle være. Og langt fra optimalt.
I praksis betyr det at verdien av KI-systemet du kjøper ikke bare avhenger av hvor godt det er. Det avhenger av hva som skjer når konkurrentene bruker det samme. Og det spørsmålet stiller leverandørene og kundene seg alt for sjeldent i disse dager.
Her er mitt råd til dere som skal kjøpe og implementere KI-løsninger fremover.
Neste gang noen pitcher en løsning bør du stille ett ekstra spørsmål: Hva skjer når konkurrentene bruker det samme systemet?
Og mitt råd til alle som bygger og selger slike løsninger er at du skal ha et godt svar på det spørsmålet.
Om forfatteren
