Lo studio è volto ad indagare il crescente interesse in merito all’impatto che le decisioni cd. automatizzate potrebbero avere sui diritti individuali e sull’equità. Nello specifico, ci si soffermerà sulle pronunce rese, mediante sistemi di intelligenza artificiale, da organi giudiziari, evidenziando la rilevanza, in tal senso, del diritto alla trasparenza e di quello alla «spiegabilità», che garantiscono la possibilità per gli utenti di comprendere il processo decisionale ed, eventualmente, di contestarne gli esiti. L’analisi che ci si propone di svolgere con riguardo agli algoritmi utilizzati nel settore d’interesse tenderà all’identificazione dei potenziali pregiudizi e ad eliderne l’influenza sulla decisione finale, sottolineando le loro intrinseche criticità soprattutto rispetto all’ingiustizia della medesima. Inoltre, si proverà ad esaminare con attenzione le iniziative dell’Amministrazione spagnola sul punto, focalizzandosi sui limiti etici e legali necessari per salvaguardare i diritti individuali e preservare una giustizia equa.
This study explores the emerging concern about the impact of automated decisions on individual rights and judicial equity. Specifically, it focuses on decisions made by judicial entities and artificial intelligence systems, highlighting the importance of rights to transparency and explainability. These rights ensure that people understand the decision-making process and could challenge or restrict such decisions. A critical analysis of algorithms is carried out to identify and mitigate potential biases, emphasizing the inherent dangers that could lead to unfair resolutions. In addition, current initiatives in the administration of justice in Spain are examined, emphasizing the ethical and legal limits necessary to safeguard individual rights and preserve equitable justice.
.