mboost-dp1

Shutterstock

FTC indleder undersøgelse af OpenAI’s ChatGPT for mulig skade på forbrugere og spredning af falske oplysninger

- Via Computer World -

Den amerikanske Federal Trade Commission (FTC) har indledt en undersøgelse mod OpenAI, der står bag chatbot-teknologien ChatGPT.

Undersøgelsen skal afdække, om ChatGPT har skadet amerikanske forbrugere ved at indsamle data og sprede falske oplysninger om enkeltpersoner.

FTC har sendt et brev til OpenAI med en række spørgsmål og krav om dokumentation.

OpenAI har tidligere været under pres fra internationale myndigheder, herunder Italien, der forbød ChatGPT på grund af ulovlig indsamling af personlige data.

Undersøgelsen kan tvinge OpenAI til at afsløre deres datakilder og kan have betydning for reguleringen af AI-industrien.

Det er dog uklart, om undersøgelsen vil føre til handling fra FTC’s side.





Gå til bund
Gravatar #1 - akage7
24. jul. 2023 05:44
[Indlæg er markeret som spam]
Gravatar #2 - arne_v
24. jul. 2023 15:47

Den amerikanske Federal Trade Commission (FTC) har indledt en undersøgelse mod OpenAI, der står bag chatbot-teknologien ChatGPT.

Undersøgelsen skal afdække, om ChatGPT har skadet amerikanske forbrugere ved at indsamle data og sprede falske oplysninger om enkeltpersoner.


Jeg har lidt svært ved at følge dem.

Så vidt jeg ved er ChatGPT trænet på materiale som er offentligt tilgængeligt på internettet. Er de bekymret for at den løbende trænes via folks spørgsmål og at der dermed indsamles information via spørgsmål?

Og med hensyn til at sprede falske oplysninger, så spreder en LLM vel fundamentalt ikke oplysninger overhovedet. Den siger at en sekvens af ord I1,...,In sandsynligvis efterfølges af en sekvens af ord O1,...,Om. Den siger ikke at den kombinerede sekvens I1,...,In,O1,...,Om findes nogen steder. Og den forstår intet om hvad ordene betyder. Hvis nogen antager at den kombinerede sekvens I1,...,In,O1,...,Om findes og at det er sandt/korrekt, så er det vel dem som har misforstået hvordan en LLM fungerer.


Undersøgelsen kan tvinge OpenAI til at afsløre deres datakilder


????

En LLM bruger ikke datakilder i en traditionel forstand. Den kan ikke give et link til den kombinerede sekvens, fordi den muligvis/sandsynligvis ikke findes nogen steder.

Selvfølgelig er den trænet på noget materiale, men hvis vi hypotetisk siger at Ox er påvirket af en million parametre som hver gennemsnitligt er påvirket af 10 millioner tekst fragmenter, så er kilden til Ox 10000 milliarder tekst fragmenter.

Vil de have dem??


Det er dog uklart, om undersøgelsen vil føre til handling fra FTC’s side.


FTC er p.t. under skarp kritik:

https://www.nytimes.com/2023/07/11/technology/lina...
Gå til top

Opret dig som bruger i dag

Det er gratis, og du binder dig ikke til noget.

Når du er oprettet som bruger, får du adgang til en lang række af sidens andre muligheder, såsom at udforme siden efter eget ønske og deltage i diskussionerne.

Opret Bruger Login