Googles ledelse har angiveligt erklæret “kode rød” midt i den stigende popularitet hos ChatGPT

Netop grundet ChatGPTs manglende evne til at faktatjekke, forstår jeg ikke Googles bekymring. Til gengæld ser jeg grund til bekymring over, at meget af det indhold, som ChatGTP producerer bliver udgivet på internettet som netop fakta. Der tænker jeg, at Google får en næsten uoverstigelig opgave i at sortere mellem indhold skabt af hhv. AI og mennesker.

Vh
Jakob
retvildt.dk

Med den seneste udvikling af generative AI tools er linjen mellem troværdigt materiale og totale forfalskninger blevet praktisk talt usynlig. Der vil komme myriader af sider med AI genereret materiale der vil se ægte og troværdige ud, men som indeholder fuldstændig hogwash. Der vil komme velansete online profiler, der poster AI materiale. Der vil være folk der forføres af fuldstændig vanvittige konspirationsteorier, baseret på AI genereret materiale.

Man kan ryste i bukserne og løbe rundt som forskræmt fjerkræ og trygle regeringer og online platforme om at lave regler mod den slags. Men der er ingen entitet i denne verden der har magt nok til at kunne gøre selv den mindste forskel. Ånden er ude af flasken.

Der vil komme en ny opbrudstid på internettet hvor reglerne for online interaktion endnu engang skal omskrives, og nogle år senere vil der være fundet en ny orden der tager hensyn til de nye AI tools.

Jeg tror, at lige nu er et rigtig godt tidspunkt til at gå i tænkeboks og tænke dybe tanker om hvordan tingene kan komme til at se ud om nogle år. Der ligger helt sikkert en masse nye muligheder på bordet der venter på at blive opfundet lige nu. Mon ikke der f.eks. kan komme en opblomstring af betalt materiale online. I en verden af fakery, hvem ville ikke betale lidt penge for at få adgang til garanteret troværdigt og relevant materiale.

#2

Jeg ved ikke hvor stor en ændring det bliver.

Idag kan man på nettet finde:
- sider med godt indhold
- sider med dårligt indhold produceret af nogen med den hensigt at vildlede
- sider med dårligt indehold produceret af nogen der bare mangler evner

I fremtiden vil der også være:
- sider med dårligt indhold produceret af et program

Folk med vilje og evner til at sortere vil stadig sortere.

Folk uden vilje og evner til at sortere vil stadig ikke sortere.

Jeg tvivler ikke på at der i fremtiden vil blive produceret meget dårligt indhold af programmer og at nogen vil tro på det.

Men kernen i problemet er ikke det dårlige indhold eller hvordan det dårlige indhold er produceret men at folk tror på det.

arne_v (3) skrev:

Idag kan man på nettet finde:
- sider med godt indhold
- sider med dårligt indhold produceret af nogen med den hensigt at vildlede
- sider med dårligt indehold produceret af nogen der bare mangler evner

I fremtiden vil der også være:
- sider med dårligt indhold produceret af et program

Lad mig tilføje:
- sider med godt indhold produceret af et program

Og det var egentlig min pointe. Programmer som ChatGPT kan producere virkelig overbevisende materiale så let som ingenting. Før kunne man meget nemt genkende det dårlige indhold. Fremadretted bliver det svært.

#4

Det er vel ikke et problem med godt indhold produceret af et program.

Det er et problem med dårligt indhold som virker overbevisende. Men det er ikke nyt. Og det samme problem uanset om det er produceret af et program eller af et levende menneske.

Jeg er iøvrigt ikke så imponeret af programmet.

Jeg tror ikke engang at jeg vil kalde det et AI program.

Det er reelt et søge program med et sjovt præsentations interface.

Man stiller et spørgsmål. Og findes der gode oplysninger på nettet om emnet så copy paster den fundet materiale ind som svar i.s.f. som Google bare at vise links. Findes der ikke gode oplysninger på nettet så copy paster den bare noget tilfældigt crap ind.

Men Microsoft er tilsyneladende imponeret.

De vil give 10 B$ for 49% af aktierne.

Så ChatGPT i MS Office og Bing Search.

Der har været snakket om de i flere dage men nu er det vist ved at være officielt:

https://www.linkedin.com/posts/generative-artifici...

#7 OpenAI er lidt af en godbid, for de har bevist at de kan levere varen. Det bliver spændende at se hvordan MS vil integrere disse funktioner i almindelige programmer uden at det bliver for creepy, men samtidigt anvendeligt. Jeg tænker at Clippy får et forrygende comeback ;)