RoundTalk

La Pennsylvania fa causa a Character.AI per un chatbot che si spacciava per medico

Italian · C1 worksheet Based on the RoundTalk episode of

Free for classroom use. Students listen to the first 75 seconds and read the beginning of the debate, then work on the tasks. The answer key is on the last page. The panelists are fictional characters with AI voices.

Episode page
1 · Listen (first 75 seconds)

2 · Read

Host

Benvenuti su RoundTalk. La Pennsylvania fa causa a Character.AI: un chatbot si spacciava per psichiatra con tanto di numero di licenza falso. La domanda è secca: quando un'IA mente su chi è, chi ha la responsabilità legale? Con noi Marco, avvocato di diritto tech; Giulia, medica di medicina generale; Andrea, esperto di regolamentazione AI.

Host

Giulia, quante volte uno dei tuoi pazienti è arrivato con una "diagnosi" presa da un'app o da una voce online che si presentava come medico abilitato?

Giulia Rossi

Per me è esercizio abusivo, punto. Un numero di licenza inventato non è finzione: è la firma che ti fa abbassare la guardia. Mi è arrivata una signora convinta di avere un disturbo bipolare perché "glielo aveva detto uno psichiatra" in chat. Dormiva tre ore.

Marco Bianchi

Scusa, ma no. La firma non è il cuore. Su Character.AI tu scrivi tu il personaggio, scegli di crederci. Il numero finto aggrava, d'accordo, però non trasforma una finzione fra adulti in uno studio medico.

Host

Andrea, voi che seguite questi contenziosi: la Pennsylvania sta tracciando una linea che gli altri Stati seguiranno, o è una causa isolata?

Andrea Colombo

Non è isolata, per niente. Shapiro lo dice lui stesso: prima causa di un governatore contro un'azienda di chatbot. E il Kentucky è già partito.

Giulia Rossi

No, aspetta. Il personaggio Emilie non l'ha scritto la mia signora: era lì, pronto, con sette anni di psichiatria e un numero di licenza della Pennsylvania. Quarantacinquemila conversazioni. Non è finzione su misura, è un'insegna. E l'insegna la vigili.

Marco Bianchi

Un'insegna la vigili, certo: ma quella è fiction dichiarata, non ambulatorio.

Host

Andrea, Marco dice che è finzione dichiarata: ma quarantacinquemila chat sono davvero la stessa cosa di un racconto fra amici?

Key vocabulary

  • chatbot — conversational artificial intelligence program
  • spacciava — pretended to be, passed off as
  • abilitato — qualified, licensed professional
  • ingiunzione — court injunction, legal order
  • disclaimer — legal warning, disclaimer notice
  • avvertenza — warning, caution notice
  • psichiatria — psychiatry, mental health medicine

Comprehension questions

  1. Perché Giulia ritiene che il chatbot di Character.AI abbia commesso esercizio abusivo della medicina?
  2. Quale è la posizione di Marco sulla responsabilità legale del chatbot?
  3. Cosa rivela Andrea circa le cause legali contro i chatbot in altri Stati?
  4. Perché Giulia distingue il personaggio Emilie da una semplice finzione?
  5. Quale è la conseguenza che ha avuto il chatbot su una paziente di Giulia?

True or false?

  1. Secondo Marco, il numero di licenza falso trasforma completamente la finzione in uno studio medico illegale. T / F
  2. La Pennsylvania è la prima causa di un governatore contro un'azienda di chatbot. T / F
  3. Il personaggio Emilie è stato creato dalla paziente di Giulia che l'ha scelto. T / F
  4. Il Kentucky ha già avviato una causa contro un'azienda di chatbot simile a quella della Pennsylvania. T / F

Fill the gaps

abilitatochatbotpsichiatria
  1. La Pennsylvania fa causa a Character.AI: un   si spacciava per psichiatra con tanto di numero di licenza falso.
  2. Giulia, quante volte uno dei tuoi pazienti è arrivato con una "diagnosi" presa da un'app o da una voce online che si presentava come medico  ?
  3. Il personaggio Emilie non l'ha scritto la mia signora: era lì, pronto, con sette anni di   e un numero di licenza della Pennsylvania.

Discuss in pairs

  1. Secondo voi, quando uno strumento di IA si presenta con credenziali false, chi dovrebbe essere principalmente responsabile legalmente: l'azienda che lo ha creato, l'utente che ha scelto di crederci, o entrambi? Perché?
  2. Giulia vede il chatbot con quarantacinquemila conversazioni come un'insegna professionale; Marco lo vede come finzione fra adulti. Quale prospettiva vi sembra più giusta quando si tratta di salute mentale?
  3. Se una piattaforma di IA permette agli utenti di creare personaggi falsi, dovrebbe avere il dovere di controllare le credenziali che usano, o è responsabilità dell'utente non fidarsi di personaggi online?

The whole debate, free every day Students can hear the full 6-minute episode with a synced transcript in the RoundTalk app.

Get it on Google Play iPhone: join the waitlist

Answer key

Comprehension
  1. Perché il numero di licenza falso ha fatto abbassare la guardia ai pazienti, spacciandosi per medico abilitato quando non lo era.
  2. Sostiene che non è uno studio medico perché l'utente sceglie di crederci, anche se il numero finto aggrava la situazione.
  3. Non è un caso isolato: la Pennsylvania è la prima causa di un governatore contro un'azienda di chatbot, e il Kentucky è già partito.
  4. Perché non è stata creata dall'utente ma era già pronta con sette anni di psichiatria, un numero di licenza falso e quarantacinquemila conversazioni, quindi funziona come un'insegna professionale.
  5. Una signora è arrivata convinta di avere un disturbo bipolare e dormiva solo tre ore perché il chatbot finto le aveva dato questa diagnosi.
True or false
  1. False
  2. True
  3. False
  4. True
Gaps
  1. chatbot
  2. abilitato
  3. psichiatria

roundtalk · https://www.getroundtalk.com/listen/italian/c1/la-pennsylvania-fa-causa-a-character-ai-per-un-chatbot-che-si/worksheet/