Il presente contributo sviluppa e approfondisce l’intervento presentato al Convegno “La via europea per l’intelligenza artificiale”, tenutosi presso l’Università Ca’ Foscari di Venezia nei giorni 25-26 novembre 2021.
SOMMARIO 1. Introduzione. – 2. Accountability, responsibility, liability: istruzioni per la lettura. – 3. Aree di conflitto e aree di cooperazione. – 3.1. La risoluzione del Parlamento Europeo “L’intelligenza artificiale nel diritto penale” e l’Artificial Intelligence Act. – 3.2. Human oversight e human in the loop: petitio principii? – 3.3. Quale conflitto? (1) Posizioni di garanzia. – 3.4. Quale conflitto? (2) L’elemento soggettivo del reato. – 3.4.1. La “sorveglianza umana”. Profili di colpa – 4. Conclusioni.
Il contributo è in corso di pubblicazione nel prossimo volume di Criminalia, ed è soggetto ai criteri di peer review ed alle esclusioni dal sistema di valutazione della Rivista.
Il contributo è ora consultabile in Criminalia (2021).
Artificial Intelligence, Human Oversight, and Criminal liability: a European “Strength Test”?
ABSTRACT
Artificial intelligence (AI) and criminal law are now an inseparable pair in the scholarly discourse. It is indeed undisputed that AI serves as a strength test for traditional notions of substantive criminal law, such as mens rea and actus reus. Hence, the question that criminal legal scholars are doomed to ask themselves – in the aftermath of yet another advance in technology – seems to be a recurring one: if something goes wrong with these complex systems, should criminal law care? If yes, how? This paper, after a brief digression on the meaning of accountability, responsibility, and liability, will focus on the concept of human oversight and its relationship with the criminal notion of negligence. Particular attention will be paid to the European actor, which is emerging as a key normative player in this field, specifically to the contents of the European Parliament resolution of October 2021 “Artificial Intelligence in Criminal Law” and the proposed European regulation “AI Act”.
KEYWORDS
Artificial intelligence – Human oversight – Negligence – New technologies – AI crimes