Gigant bøder i EU til brugere af chat GPT

https://www.computerworld.dk/art/281355/gigant-boe...

Yay. EU politikerne kommer ridende på deres hvide heste og redder os allesammen. >:(

WTF har de gang i:

Den ny lovpakke, der går under navnet AI Act, kan blandt komme til at indebære, at det skal markeres synligt, når virksomheder bruger tekst, som er skabt via kunstig intelligens som eksempelvis chatbotten ChatGPT.

Når loven er vedtaget kan det ifølge mediet MIT Technology Review betyde, at virksomheder som overtræder lovgivningen kan idømmes bøder på op til seks producent af deres globale omsætning.

Det er normalt at bruge grammarly og lignende services til at redigere tekst så sproget bliver bedre. Dette er OGSÅ AI, dvs. resultatet er AI-genereret tekst. Skal det nu til at give milliardbøder??

Hvad er grænsen mellem AI genereret tekst og diverse tools der assisterer? Hvad med procedurally generated text i computerspil, og næste generation spil der vil inkorporere AI genereret tekst? Nu kommer den slags til at være ekstremt risikabelt med mindre man plasker mærker ud over det hele.

Dette er cookie lovgivningen om igen. Støvede bævrende politikere der ikke engang er folkevalgte, laver drakoniske regler i forsøg på at inddæmme den farlige disruptive fremtidige teknologi.

Igen. Kun de lovlydige følger disse regler. Scams og trash websider kommer til at blæse højt og flot på disse regler. Håbløst.

https://eur-lex.europa.eu/legal-content/EN/TXT/?ur...

https://artificialintelligenceact.eu/

Måske hvis CW brugte en AI til at skrive deres artikler ville de have meningsfyldt indhold i stedet for 15 paragrafer rent sludder

"AI Act" er et 100+ sider langt dokument. Jeg tvivler stærkt på at Wittorff har læst det hele.

Jeg forstår ikke din pointe.

Du siger at der er bøder til BRUGERE af ChatGPT - men artiklen siger klart og tydeligt at det er virksomhederne bag disse tjenester der bliver forpligtet til at markere hvis noget er skrevet eller på anden måde genereret af en AI. I det her tilfælde vil det betyde at det er OpenAI som står bag ChatGPT som er ansvarlige for at det klart og tydeligt markeres over for brugerne at der er tale om AI-genereret tekst.

Dit argument om at kun de lovlydige følger reglerne kan jeg heller ikke se hvor du vil hen med. Baseret på det argument kunne vi også droppe fartgrænserne, for folk kører for hurtigt alligevel. Det er en falliterklæring af et argument.

Din pointe om tjenester som Grammarly og lignende er også malplaceret. Som jeg forstår loven, så skal det være hvis en AI har genereret selve teksten. Grammerly er en tjeneste som tilbyder at rette stavefejl i egne tekster du indsender. Du spørger hvor grænsen går, og svaret er at det skal man nok finde ud af - præcis som man har fundet ud af det med andre lovgivninger der er blevet introduceret gennem tiden.

Resten af dit indlæg stinker bare af fear-mongering. For et computerspil som du bruger som eksempel, så burde det være tilstrækkeligt med en tydelig disclaimer når spillet bootes op. Jeg tvivler på at du vil se disclaimers plastret overalt i gameplay.

Det burde ærligt sige sig selv at AI er et område som har behov for regulering, og gerne før end senere. Sammenligningen med cookie-lovgivningen er helt ved siden af.
Hvis man ikke kan se hvorfor regulering af AI er nødvendigt, så har man altså ikke fulgt med, eller har svært ved at forstå hvad det kommer til at betyde for fremtidens samfund. AI kommer til at spille en rolle i politiarbejde, i de jobs som vil være tilgængelige i fremtiden (samt dem som vil forsvinde), i den måde vores uddannelsessystem fungerer på, i den måde vi bruger teknologi i hverdagen. Og det mener du simpelthen ville være bedre uden nogen som helst form for regulering?

Vågn da lige op engang :o)

#3 Ja, jeg tænker på situationen fra virksomheders synspunkt.

Har du prøvet grammarly eller quillbot? Det er ikke bare rettelse af stavefejl. Hvis du sætter disse tools på "high" vil de omskrive din oprindelige tekst i et meget mere flydende og velklingende sprog. Jeg har brugt quillbot et par gange på min blog, fordi jeg har en tendens til at skrive temmelig kluntet sprog. Med disse tools kan jeg skrive en gang slam og så får AI det til at lyde godt.

Nu er min blog så ikke drevet at mit firma. Men hvis den var, vil jeg potentielt kunne komme i juridiske problemer? Måske, i princippet. Men 99% sikkert ikke i praksis, det er jeg godt klar over.

ChatGPT og andre nye AI teknologier er så endnu mere potente, og de er eksempler på disruptiv teknologi der er ved at sprede sig. Det vil sige at disse teknologier giver muligheder som ingen helt forstår endnu, samtidigt med at de potentielt kan gøre en masse eksisterende jobs irrelevante.

Det samme er sket i teknologiudviklingens historie igen og igen, Gutenbergs bogtrykkerkunst, radio og TV, internet, uber, osv. Det er alle eksempler på teknologier der fik den eksisterende elite og dermed politikerne til at ryste i bukserne, fordi det gav nye ukendte muligheder. Deres instinkt er at forbyde. Det samme ser vi nu.

Min budskab er. Lad os nu se. Der er ingen der ved hvordan landskabet kommer til at se ud når disse tools finder deres rette plads og anvendelse. Det er for tidligt at lave omsiggribende lovgivning (som alligevel ikke vil gøre en døjt til forskel).

Dit argument om at kun de lovlydige følger reglerne kan jeg heller ikke se hvor du vil hen med. Baseret på det argument kunne vi også droppe fartgrænserne, for folk kører for hurtigt alligevel. Det er en falliterklæring af et argument.

Internettet er ikke noget land, dude. Jeg kan sætte en server op i en bananstat og sprede tonsvis af AI generet misinformation, lige så tosset jeg vil, uafhængig af disclamers, mærkater og cookie godkendelser som alle de ærlige firmaer må slås med.

Athinira (3) skrev:

Hvis man ikke kan se hvorfor regulering af AI er nødvendigt, så har man altså ikke fulgt med, eller har svært ved at forstå hvad det kommer til at betyde for fremtidens samfund. AI kommer til at spille en rolle i politiarbejde, i de jobs som vil være tilgængelige i fremtiden (samt dem som vil forsvinde), i den måde vores uddannelsessystem fungerer på, i den måde vi bruger teknologi i hverdagen. Og det mener du simpelthen ville være bedre uden nogen som helst form for regulering?

Vågn da lige op engang :o)

Hvis man tror at regulering kan løse alle problemer, så har man altså ikke fulgt med :) Hver eneste uigennemtænkt lov lukker døren for en fremtidig positiv udvikling. Jeg er mere tilhænger af at lade et frit marked finde ud af hvad der skal ske med en ny teknologi end at en gruppe halvkorrupte politikere skal afgøre det hele på forhånd. Millioner af aktører i et frit marked er bedre til at tænke nyt og stort end en gruppe trætte politikere.

larsp (4) skrev:

Internettet er ikke noget land, dude. Jeg kan sætte en server op i en bananstat og sprede tonsvis af AI generet misinformation, lige så tosset jeg vil, uafhængig af disclamers, mærkater og cookie godkendelser som alle de ærlige firmaer må slås med.

Det er muligt. Men du vil fx ikke kunne sælge det i EU uden videre. Du kan generere alt det AI-content du ønsker uden for EU, men skal du sælge det inden for EUs grænser, så har du altså et problem, ud fra dit argument om at du ser det her fra en virksomheds synspunkt.

Den her lovgivning er ikke designet til at fange alle små svindlere som ser AI som en mulighed. Det er først og fremmest henvendt til større virksomheder, som bliver nødt til at følge loven.

larsp (5) skrev:

Hvis man tror at regulering kan løse alle problemer, så har man altså ikke fulgt med :)

Det mindes jeg heller ikke at have skrevet at regulering kan. Men tonen og indholdet i dit oprindelige indlæg insinuerer at tingene ville være bedre hvis EU ikke blandede sig i det her.

Det er ganske enkelt noget vås. Ingen har sagt at regulering fikser alting, men hvis man tror at ingen eller minimal regulering er vejen frem her, så er man i min verden ignorant (undskyld sprogbruget). Du kan simpelthen ikke have så kraftfuld en teknologi der udvikler sig med den hastighed den gør uden regulering - det går simpelthen ikke :-)

Athinira (6) skrev:

Du kan simpelthen ikke have så kraftfuld en teknologi der udvikler sig med den hastighed den gør uden regulering - det går simpelthen ikke :-)

Hvorfor ikke?

Hvis man er levebrøds-politiker og skal score noget positiv medieomtale for at sikre genvalg så går det naturligvis ikke at lade en sådan lejlighed gå til spilde.

Men hvis vi nu tager udgangspunkt i hvad der er godt for befolkningen, så begrunder hverken "kraftfuld teknologi" eller "teknologi som udvikler sig hurtigt" regulering.

Regulering er begrundet hvis der er et faktisk problem som den regulering kan løse.

Den klassiske bil analogi: at biler er kraftige og har udviklet sig hurtigt er ikke en begrundelse for hastighedsbegrænsninger - at lavere hastigheder resulterer i færre dræbte og sårede i trafikken og lavere benzinforbrug (mindre forurening) er en begrundelse for hastighedsbegrænsninger.

Nu har Claus jo ganske korrekt påpeget at det er en omfattende lovgivning som omfatter meget andet en ChatGPT og tekst generering. Dette emne har ikke engang fundet vej til Wikipedia artiklen: https://en.wikipedia.org/wiki/Artificial_Intellige... ! Og der er nogle af de ting som er nævnt i Wikipedia artiklen hvor man faktisk kan forstå problematikken - et total forbud mod "social credit scoring" giver mening da det er i modstrid med demokrati.

Men hvis vi nu nøjes med at kigge på kravet om identificering af AI genereret tekst, som er det som tråden ovenfor har fokuseret på.

Der står ikke noget i CW artiklen om hvilket problem det løser.

Der er ikke noget i denne tråd om hvilket problem det løser.

Indtil der er en god forklaring på hvilket problem det løser, så burde forslaget tages af bordet.

Jeg vil ikke holde vejret indtil det sker. :-)

Athinira (3) skrev:

AI kommer til at spille en rolle i politiarbejde, i de jobs som vil være tilgængelige i fremtiden (samt dem som vil forsvinde), i den måde vores uddannelsessystem fungerer på, i den måde vi bruger teknologi i hverdagen.

larsp (4) skrev:

ChatGPT og andre nye AI teknologier er så endnu mere potente, og de er eksempler på disruptiv teknologi der er ved at sprede sig. Det vil sige at disse teknologier giver muligheder som ingen helt forstår endnu, samtidigt med at de potentielt kan gøre en masse eksisterende jobs irrelevante.

Den grundliggende præmis om at det her er nyt er ikke rigtig.

Det her er teknologi som har udviklet sig over 40 år eller mere.

Fra 80'erne ekspert systemer i Prolog til sen 90'ernes Google search algoritme til internettet chatbots til selvkørende biler.

Toget kørte for mange år siden.

ChatGPT er efter min bedste overbevisning ikke mere "intelligent" end så meget andet. Tværtimod. Det der adskiller ChatGPT fra andet er at den har fokus på præsentationen. Den producerer ikke bedre resultater end andet men det præsenterer det på samme måde som et menneske og ikke som et ekspertsystem.

Det har givet en masse presse omtale.

Og det kan godt være vigtigt. Der er formentligt en årsag til at Microsoft betaler milliarder af dollars for teknologien med henblik på integration i Office og Bing. Når man skal kommunikere direkte med de store mængder af brugere så er præsentationen vigtig.

#7 og #8

Fokus på tekst output i forbindelse med AI (trigget af ChatGPT) er efter min overbevisning totalt forfejlet.

Det er typisk uinteressant hvem eller hvad der har formuleret teksten.

Det er typisk vigtigt hvem eller hvad der har produceret substansen som teksten formidler.

Lad os sige at en borger ansøger kommunen om noget. Der er 2 trin i det:
1) kommunen skal finde ud af om det skal være JA eller NEJ
2) kommunen skal sende et svar til borgeren

Det første kan laves ved at en ansat i kommunen kigger på den udfyldte formular og lovgivningen og laver en vurdering udfra uddannelse og oplæring *eller* ved at et program kommer frem til svar udfra den udfyldte formular og "træning" baseret på 10000 tidligere afgørelser.

Det andet kan laves ved at den ansatte sætter sig ved tekstbehandlingen og formulerer et venligt svar *eller* ved at et program udfra ansøgningen og JA/NEJ genererer et svar.

Det er efter min mening:
- meget vigtigt hvordan det første program når frem til beslutningen
- ligegyldigt hvordan det andet program genererer teksten

arne_v (7) skrev:

Men hvis vi nu tager udgangspunkt i hvad der er godt for befolkningen, så begrunder hverken "kraftfuld teknologi" eller "teknologi som udvikler sig hurtigt" regulering.

(...)

Men hvis vi nu nøjes med at kigge på kravet om identificering af AI genereret tekst, som er det som tråden ovenfor har fokuseret på.

Men det nøjes jeg ikke med - og derfor så er første del af citatet herover ganske enkelt for snævertsynet. Ligeledes er hele din argumentation om "levebrødspolitikere" også ærligt et simplificeret argument - og under den standard du normalt leverer hvis jeg lige skal være ærlig Arne :-)

Lad os nu lige prøve at kigge på hvad EUs AI-regulering rent faktisk handler om. Den handler ikke bare om at forbyde algoritmer fordi man er bange for teknologien (selvom det dog vil være tilfældet i nogle henseender, fx social credit score systemer som du selv nævnte). Det handler om at være fremadsynet, og sikre at algoritmer som kan have stor indvirkning på vores liv og frihedsrettigheder har gennemgået en grundig udvikling, og ikke bare smides på markedet utestet.

EUs AI-lovgivning er grundlæggende baseret på risikovurdering af AI-algoritmer, hvor AI-algoritmer placeres i en ud af 4 risikokategorier: Uacceptabel risiko, høj-risiko, begrænset risiko og minimal/ingen-risiko.

Hvis vi lige stryger forbi "Uacceptabel risiko"-kategorien, som er AI der direkte vil være forbudt, og kigger på højrisiko-zonen, som er AI-algoritmer som ikke i sig selv bliver forbudt, men hvor der stilles nogle meget strenge krav fra starten, så har EU identificeret nogle kategorier som jeg på alle måder er enig i er højrisiko.

Det inkluderer fx:
- AI-algoritmer som skal bedømme styrken af bevismateriale til brug i straffesager.
- AI-algoritmer som automatisk skal bedømme om folk kan få et lån, eller skal bedømme fx skoleopgaver og give dig karakter.
- AI-algoritmer som har kritisk sikkerhedsansvar, fx selvkørende biler, algoritmer som styrer offentlig transport og andet kritisk infrastruktur, eller (eksempel fra linket) en algoritme som styrer en robothånd i AI-assisteret kirurgi.

Mener du virkeligt at det er forkert at sikkerhedsklassificere algoritmer som disse?
Mener du virkeligt at det er forkert at stille krav til dem (ud fra den klassificering)?
Mener du virkeligt at det IKKE er i borgerens interesse at stille krav til disse algoritmer før de tages i brug?

Der er allerede set eksempler på hvordan algoritmer (ikke nødvendigvis maskinlærte), som under EUs foreslåede regler ville være placeret i en af de to højeste kategorier, har fået lov til at få stor indvirkning i folks liv. En af dem er COMPAS, en software udviklet til at vurdere risikoen for gentagelseskriminalitet. COMPAS er blevet et populært værktøj i mange amerikanske stater til at gøre det nemmere (eller rettere, hurtigere) for dommere at afgøre om en tiltalt vil gentage kriminalitet - man har simpelthen bare købt og anvendt softwaren ukritisk, på trods af at tiden har afsløret at der er store problemer med den. Fx ubegrundet racisme, og generel tvivl om softwarens præcision:

The team found that “blacks are almost twice as likely as whites to be labeled a higher risk but not actually re-offend,” whereas COMPAS “makes the opposite mistake among whites: They are much more likely than blacks to be labeled lower-risk but go on to commit other crimes.” They also found that only 20 percent of people predicted to commit violent crimes actually went on to do so.

Ligeledes har folk som har fået strafudmåling baseret på softwaren blevet nægtet at kunne undersøge algoritmen. Så de ved ikke hvilken baggrund de er blevet dømt på. Det er sådanne nogle systemer som retssystemer ville elske at få fingrene i fordi det vil lette deres arbejdsbyrde - men det er absolut ikke systemer som tjener borgernes retssikkerhed hvis man ikke stiller ordentlige krav til systemet.

COMPAS er et eksempel på, hvad der kan ske uden ordentlig regulering omkring hvad algoritmer (om de så er maskinlærte eller ej) kan bruges til, eller hvilke krav der må stilles til dem før de tages i brug.

For hvis vi lige vender tilbage til det du skrev....

arne_v (7) skrev:

Men hvis vi nu tager udgangspunkt i hvad der er godt for befolkningen, så begrunder hverken "kraftfuld teknologi" eller "teknologi som udvikler sig hurtigt" regulering.

....så har du i min verden ærligt misforstået hvad regulering er.

Regulering er ikke bare at kaste med forbud til venstre og højre, fordi en politiker lige skal bruge et valgkampsslogan.

God regulering er regulering som inddrager og overvejer tiltag som risikovurdering, transparens, procesbeskrivelser, krav til kvalitetssikring, ansvarsbeskrivelser (dvs. hvem kan man holde til ansvar hvis noget går galt) etc. Går vi tilbage til bilanalogien, så har det meste af denne type regulering jo netop fundet vej til bilindustrien. Biler testes jo fx for crashsikkerhed mm. - dette er ikke meget anderledes end at AI-algoritmer klassificeres og testet ift. hvilke datasets de er trænet på, om de har bias etc.

Jeg har læst en god portion af EUs beskrivelse af den kommende AI-regulering, og jeg synes ærligt at dine argumenter er lidt malplacerede. Det er ikke bare valgkampspolitik for levebrødspolitikere. Det er alt i alt en ganske gennemarbejdet lovgivning, og selvom vi naturligvis ikke kan sige hvor effektiv den vil komme til at være på sigt, så fremstår den for mig som værende skabt af folk som faktisk er investerede i at undgå at vi som borgere bliver påvirket negativt af denne nye spændende teknologi - og den virker også rimeligt gennemtænkt (i modsætning til fx Cookie-loven, som jeg tror de fleste af os er enige i selv den dag i dag var lidt af en falliterklæring).