Quo vadis, artificial intelligence? Reflections on ethical and legal issues of AI

Martyna Kaczmarczyk

Uniwersytet Warmińsko-Mazurski w Olsztynie UWM
https://orcid.org/0000-0001-6169-9466


Abstract

Dynamically developing new technologies, especially artificial intelligence, have an increasingly greater impact on people’s lives. This influence has many obvious advantages as well as disadvantages. The dangers posed by the fourth industrial revolution may directly lead to violations of human rights and freedoms, democracy and the rule of law, which are significantly protected by the most important international treaties and the Constitution of the Republic of Poland. The aim of the article is to discuss key issues regarding artificial intelligence and concepts related to it through the prism of potential dangers to broadly understood human rights and to assess the legal solutions introduced. The analysis of the recently introduced provisions in international law regarding the broad subject of AI—Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and the Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law—made it possible to propose conclusions regarding the completeness of the regulations that entered into force this year. The de lege lata research allowed to conclude that the system of legal regulations regarding AI is visionary, coherent, and raises fundamental issues for the discussed field. De lege ferenda comments concern primarily the need to remain cautious and the system to be open to constant progress in the field of artificial intelligence, primarily in relation to liability for damages resulting from AI activities. The article presents areas in the Polish legal order requiring changes and accommodation to the EU regulation.


Keywords:

artificial intelligence, human rights, safety, democracy, ethics


Biczysko-Pudełko K., Szostek D., Koncepcje dotyczące osobowości prawnej robotów – zagadnienia wybrane, Prawo Mediów Elektronicznych, 2019, nr 2.   Google Scholar

Chałubińska-Jentkiewicz K., Karpiuk M., Prawo nowych technologii, wybrane zagadnienia, Warszawa 2015.   Google Scholar

Chłopecki, Sztuczna inteligencja – szkice prawnicze i futurologiczne, Warszawa 2018.   Google Scholar

Chopra S., White L. F., A Legal Theory for Autonomous Artifcial Agents, Michigan 2011.   Google Scholar

Ciechosz P., Systemy uczące się, Warszawa 2000.   Google Scholar

Gorzkowska K. M., Odpowiedzialność za działania sztucznej inteligencji [w:] (red.) A. Kidyba, A. Olejniczak, Nowoczesne technologie. Szansa czy zagrożenie dla funkcjonowania przedsiębiorców w obrocie prawnym i postępowaniach sądowych, Warszawa 2022.   Google Scholar

Goździaszek Ł., Elektroniczne postępowanie upominawcze – doświadczenia i przyszłość [w:] (red.) J. Gołaczyński, Księga z okazji jubileuszu 20-lecia działalności Centrum Badań Problemów Prawnych i Ekonomicznych Komunikacji Elektronicznej i Studenckiego Koła Naukowego – Blok Prawa Komputerowego, Warszawa 2022.   Google Scholar

Hoven van Genderen R., Robot Law, a Necessity or Legal Science Fiction? Machine Medical Ethics and What About the Law?, online: http:// www.switchlegal.nl/robot-law-a-necessity-or-legal-science-(ction-machine-medical-ethics-and-what-about-the-law/, dostęp: 7.10.2024.   Google Scholar

Jabłoński M., Nowoczesne technologie sztucznej inteligencji a konstytucyjne prawo do sądu   Google Scholar

(red.) J. Gołaczyński, Księga z okazji jubileuszu 20-lecia działalności Centrum Badań Problemów Prawnych i Ekonomicznych Komunikacji Elektronicznej i Studenckiego Koła Naukowego – Blok Prawa Komputerowego, Warszawa 2022.   Google Scholar

Janowska M., Podmiotowość prawna sztucznej inteligencji [w:] A. Bielska-Brodziak (red.), O czym mówią prawnicy, mówiąc o podmiotowości, Katowice 2015.   Google Scholar

Kaplan A, Chapter 9 Artificial intelligence, social media and fake news: is this the end of democracy? [w:] Digital transormation in media & society, ed. A. Gul, Y. Erturk, P. Elmer, Digital Transformation in Media and Society, Istanbul 2020.   Google Scholar

Kosinski M., Wang Y., Deep neural networks are more accurate than humans at detecting sexual orientation form facial images, „Journal of Personality and Social Psychology” 2018, 114 (2).   Google Scholar

Krasuski A., Leksykon prawa nowych technologii, Warszawa 2021.   Google Scholar

Krasuski A., Status prawny sztucznego agenta. Podstawy prawne zastosowania sztucznej inteligencji, Warszawa 2021.   Google Scholar

Księżak P., Wojtczak S., Prawa Asimova, czyli science fiction jako fundament nowego prawa cywilnego, „Forum Prawnicze” 2020, nr 4.   Google Scholar

Manheim K, Kaplan L., Artificial Intelligence: Risks to Privacy and Democracy, „The Yale Journal Of Law amd Technology” 2019, vol. 21.   Google Scholar

Męcina J., Od cyfryzacji i robotyzacji do sztucznej inteligencji – wyzwania dla gospodarki i rynku pracy, Warszawa 2023.   Google Scholar

Pietrzykowski T., Ludzkie, niezbyt ludzkie. Esej o podmiotowości prawnej i wyzwaniach XXI wieku, Katowice 2016.   Google Scholar

Przegalińska A., Sztuczna inteligencja – nieludzka, arcyludzka, Kraków 2020.   Google Scholar

Pszczyński M., Konstytucyjne wartości u progu ery sztucznej inteligencji, „Przegląd Prawa Konstytucyjnego” 2021, nr 5.   Google Scholar

Ratti C., Helbing D., The Hidden Danger of Big Data, [w:] Towards Digital Enlightenment Essays on the Dark and Light Side of the Digital Revolution, Springer 2019.   Google Scholar

Rojszczak M., Prawne aspekty systemów sztucznej inteligencji – zarys problemu [w:] (red.) K. Flaga-Gieruszyńska, J. Gołaczyński, D. Szostek, Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe, Warszawa 2019.   Google Scholar

Stępień-Załucka B., Konwencyjne prawo do prywatności a działania algorytmów weryfikujących preferencje wyborcze z twarzy [w:] (red.) D. Jagiełło, S. Kursa, F. Parente, Wpływ informatyzacji za system prawa, Warszawa 2021.   Google Scholar

Studzińska J., Informatyzacja postępowania egzekucyjnego – elektroniczne akta komornicze. Postulat czy rzeczywistość? (red.) J. Gołaczyński, Księga z okazji jubileuszu 20-lecia działalności Centrum Badań Problemów Prawnych i Ekonomicznych Komunikacji Elektronicznej i Studenckiego Koła Naukowego – Blok Prawa Komputerowego, Warszawa 2022.   Google Scholar

Świerzyński M., Więckowski Z., Sztuczna inteligencja w prawie międzynarodowym. Rekomendacje wybranych rozwiązań, Warszawa 2021.   Google Scholar

Thomas H., Learning spaces Learning Envirinments and Displacement of Learning, British Journal of Educational Technology, 2010, 41 (3).   Google Scholar

Topol E., Medycyna głęboka: jak sztuczna inteligencja może przywrócić opiece zdrowotnej ludzką twarz, Warszawa 2021.   Google Scholar

Zalesińska A., Doręczenie elektroniczne w postepowaniu cywilnym [w:] (red.) J. Gołaczyński, Księga z okazji jubileuszu 20-lecia działalności Centrum Badań Problemów Prawnych i Ekonomicznych Komunikacji Elektronicznej i Studenckiego Koła Naukowego – Blok Prawa Komputerowego, Warszawa 2022.   Google Scholar

Ziemski M., Osoba elektroniczna posiadająca osobowość elektroniczną, In Gremio 2017, Nr 1.   Google Scholar


Published
2025-06-24

Cited by

Kaczmarczyk, M. (2025). Quo vadis, artificial intelligence? Reflections on ethical and legal issues of AI. Studia Prawnoustrojowe, (68). https://doi.org/10.31648/sp.10703

Martyna Kaczmarczyk 
Uniwersytet Warmińsko-Mazurski w Olsztynie UWM
https://orcid.org/0000-0001-6169-9466