المسؤولية الإدارية عن مشاركة الخوارزميات في إعداد القرارات الإدارية "دراسة مقارنة" / Administrative Responsibility For The Involvement Of Algorithms In The Preparation Of Administrative Decisions "Comparative Study"

نوع المستند : المقالة الأصلية

المؤلف

محاضر بالجامعات المصرية

المستخلص

تعرضت الدراسة لبيان المسؤولية الإدارية المترتبة على مشاركة الخوارزميات في إعداد القرارات الإدارية، حيث شاع في الآونة الأخيرة تزايد استخدام الخوارزميات في إعداد القرارات الإدارية سواء أكان بشكل كلي (التنسيق الالكتروني) أم بشكل جزئي (حساب الضريبة). وبالتالي أصبح هناك فاعلون آخرون يشاركون الجهات العامة في صنع القرارات الإدارية (مصممو الخوارزميات أو مطوروها أو مبرمجوها أو مزودوها بالبيانات). الأمر الذي قد ينتج عنه حدوث أخطاء من الفاعلين ترتب أضرارا تستلزم التعويض. وهو ما جعلنا نبحث عن مفهوم القرار الإداري الخوارزمي، والأساس القانوني لاستخدام الخوارزميات في إعداد القرارات الإدارية، والمسؤولية المترتبة عن مشاركة الخوارزميات في إعداد القرارات، والمسؤول عنها من الفاعلين، وأركان المسؤولية، وصعوبات تحديد المسؤولية وسبل تلافيها.
وقد استخدمت الدراسة المنهج الوصفي التحليلي المقارن من خلال بيان التطبيقات القضائية التي عرضت موضوع المسؤولية في كل من فرنسا والدول الأخرى وموقف المشرع والقضاء من تحديد المسؤول عن تعويض الأضرار، وتحليلها ومقارنتها بالتنظيم القانوني لمصر، وبيان أوجه التشابه والاختلاف بينهما. وقد انتهت الدراسة إلى جملة من التوصيات أهمها. يهيب الباحث بالمشرع المصري سرعة إصدار قانون ينظم استخدامات خوارزميات الذكاء الاصطناعي داخل الجهات العامة تحت مسمي "قانون الإدارة الرقمية"، وبما يتوافق مع أحكام القانون الإداري أسوة بالقانون الفرنسي رقم 1321-2016 الصادر في 7 أكتوبر 2016 المتعلق بالجمهورية الرقمية. وإصدار قانون ينظم أحكام الذكاء الاصطناعي بصفة عامة أسوة بالمشرع الكوري الجنوبي الذي أصدر القانون الأساس للذكاء الاصطناعي في 26 ديسمبر 2024، الذي يعد ثانِيَ قانون ينظم الذكاء الاصطناعي بعد قانون الاتحاد الأوربي رقم 1689 لسنة 2024م.
 
The study addressed the administrative responsibility resulting from the participation of algorithms in preparing administrative decisions, as the use of algorithms in preparing administrative decisions has recently become increasingly common, whether in full (electronic coordination) or in part (tax calculation). Consequently, there are other actors who participate with public authorities in making administrative decisions (algorithm designers, developers, programmers, or data providers). This may result in errors by actors that result in damages requiring compensation. This is what made us search for the concept of the algorithmic administrative decision, the legal basis for using algorithms in preparing administrative decisions, the responsibility resulting from the participation of algorithms in preparing decisions, the actors responsible for them, the pillars of responsibility, the difficulties of determining responsibility and ways to avoid them. The study used the descriptive analytical comparative approach by stating the judicial applications that dealt with the subject of responsibility in both France and other countries and the position of the legislator and the judiciary in determining the person responsible for compensating for damages, analyzing and comparing them with the legal organization of Egypt, and stating the similarities and differences between them. The study concluded with a set of recommendations, the most important of which are: The researcher calls on the Egyptian legislator to quickly issue a law regulating the use of artificial intelligence algorithms within public entities under the name of the "Digital Administration Law", in accordance with the provisions of the Administrative Law, similar to French Law No. 1321-2016 issued on October 7, 2016 regarding the Digital Republic. And to issue a law regulating the provisions of artificial intelligence in general, similar to the South Korean legislator, which issued the Basic Law on Artificial Intelligence on December 26, 2024, which is the second law regulating artificial intelligence after European Union Law No. 1689 of 2024.

الكلمات الرئيسية

المراجع

  1. أولاً: المراجع العربية:

    1- الكتب والمؤلفات القانونية العامة والمتخصصة:

    1. د. جورجي شفيق ساري:
    • تطور طريقة ومعايير تمييز وتحديد العقد الإداري في القانونيين المصري والفرنسي، دار النهضة العربية، 1996.
    • قواعد وأحكام القضاء الإداري، الطبعة السادسة، دار النهضة العربية، القاهرة، 2003.
    1. د. حسن النمر، ممارسات الشرطة بين سلطات الضبطية الإدارية والقضائية، مكتبة الوفاء القانونية، الإسكندرية، 2016م.
    2. د. حمدي علي عمر، المسئولية عن أعمال السلطة التنفيذية، المسئولية عن أعمال السلطة التنفيذية غير التعاقدية، دراسة مقارنة، دار النهضة العربية، 1996م.
    3. د. حمدي ياسين عكاشة، موسوعة المرافعات الإدارية والإثبات في قضاء مجلس الدولة، الكتاب الثاني، إجراءات الدعوى الإدارية، منشأة المعارف، الإسكندرية، 2016م.
    4. د. علي محمد بدير، د. عصام عبد الوهاب البرزنجي، د. مهدي ياسين السلامي، مبادئ وأحكام القانون الإداري، دار الكتب للطباعة والنشر، بغداد، 1993م
    5. د. عمار عويدي، نظرية المسئولية الإدارية، الديوان الوطني للمطبوعات الجامعية- الجزائر، الطبعة الثانية، 2004م.
    6. د. ماجد راغب الحلو، القضاء الإداري، دار الجامعة الجديدة، الإسكندرية، 2010م.
    7. د. محمد سعيد حسين أمين، دراسة وجيزة في فكرة العقود الإدارية وأحكام ابرامها، دار الثقافة الجامعية، 1992.
    8. د. محمد محمد عبد اللطيف، التطورات الحديثة في مسئولية الآداب، مكتبة الجلاء الجديدة- المنصورة، 2000م.
    9. د. محمود سامي جمال الدين، الدعوى الإدارية والإجراءات أمام القاضي الإداري، ط1، منشأة المعارف، الإسكندرية، 2004م.
    10. د. مصطفى أبو زيد فهمي ود. ماجد راغب الحلو، الدعاوى الإدارية، دار الجامعة الجديدة، الإسكندرية، 2005م.
    11. د. ناجح أحمد عبد الوهاب، التطور الحديث للقانون الإداري في ظل نظام الحكومة الالكترونية، دار النهضة العربية، 2012

    2- الرسائل:

    1. د. عبد السلام هابس السويفان، إدارة مرفق الأمن بالوسائل الإلكترونية الجديدة، رسالة دكتوراه مقدمة لكلية الحقوق جامعة الاسكندرية، 2012م.
    2. د. محمد حاتم صلاح الدين عامر، المسئولية المدنية عن الأجهزة الطبية دراسة مقارنة في كل من مصر وفرنسا، رسالة دكتوراه، كلية الحقوق جامعة عين شمس، 1996م.
    3. أ. محمد حمدي علي عمر، التعويض عن الأضرار في مجال المسئولية الإدارية- دراسة مقارنة - رسالة لنيل درجة الماجستير في الحقوق، كلية الحقوق جامعة الزقازيق، 2021.
    4. د. مصطفى عبد المقصود سليم، مسؤولية الموظف العام عن تنفيذ أوامر رؤسائه إدارياً وجنائياً ومدنياً، دراسة مقارنة مع القانون الفرنسي، رسالة دكتوراه مقدمة لكلية الحقوق، جامعة المنصورة، 1988.
    5. أ. هنا نور الدين، المسئولية الإدارية عن أعمال الشرطة، رسالة ماجستير مقدمة لكلية الحقوق والعلوم السياسية، جامعة خيضر بسكرة، الجزائر، 2015م.

    ثانيًا: المراجع الاجنبية:

    1. Arguments for other approaches in relation to other forms of outsourced public decision-making have also been proposed – see, e.g., C Scott ‘Accountability in the Regulatory State’ (2000) 27 Journal of Law and Society 1
    2. Auby, J.-B., « Le droit administratif face aux défis du numérique », AJDA 2018.
    3. Barreaux; V. aussi CE Avis, 3 juin 2022, n° 461694, 461695, 461922, La Cimade et autres.
      1. Bensamoun et G. Loiseau, « La gestion des risques de l’intelligence artificielle. De l’éthique à la responsabilité », JCP G., n°46, 13 novembre 2017, doctr. 1203
    4. Blanke, H.-J. (2022), in: Calliess, C. / Ruffert, M. (Eds), EUV/AEUV, 6th Edn., Art. 47 CFR, para. 16; Jarass, H. (2021), Charta der Grundrechte der EU, 4th Edn., Art. 47, para. 49; Eser, A. / Kubiciel, M. (2019), in: Meyer, J. / Hölscheidt, S. (Eds.), Charta der Grundrechte der Europäischen Union, 5th Edn., Art. 47, para. 37.
    5. Blog de Thomas Piketty à propos de l’algorithme Admission Post Bac, posté le 12 juillet 2016.
    6. Villani, Donner un sens à l’intelligence artificielle. Pour une stratégie nationale et européenne, rapport remis au Premier ministre le 28 mars 2018, p. 12.
    7. C’est notamment le cas de la Corée du Sud (Rapport de l’Office parlementaire d’évaluation des choix scientifiques et technologiques, Pour une intelligence artificielle maîtrisée, utile et démystifiée, Tome 1, p. 142).
    8. Carta Derechos Digitales, disponible sur

    https://www.lamoncloa.gob.es/presidente/actividades/Documents/2021/140721-Carta_Derechos_Digitales_RedEs.pdf, consulté le 7 décembre 2022.

    1. Ce que préconise Plessix, B., Droit administratif général, LexisNexis, 2020, n° 1008.
    2. CNIL, « Comment permettre à l’homme de garder la main? », Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle, 15 décembre 2017.
    3. CSA Lab., Les mutations de la mise à disposition des contenus audiovisuels à l’ère numérique: conséquences et enjeux, 20 janv. 2017, 20 p., Entretien avec Mady DELVAUX, « Pour un droit européen des robots », Expertises 2017, n° 422.
    4. D Colquhoun ‘An investigation of the false discovery rate and the misinterpretation of p-values’ (2014) Royal Society Open Science. Available at

    https://royalsocietypublishing.org/doi/full/10.1098/rsos.140216.

    1. Gardes, La droit a l′emploi face a l′intelligence artificielle, 2021.
    2. Danièle Bourcier, Primavera de Filippi. Les algorithmes sont ils devenus le langage ordinaire de l’administration? Geneviève Koubi, Lucie Cluzel-Métayer, Wafa Tamzini. Lectures critiques du Code des relations Public et administration, LGDJ, pp.193-210, 2018, 978-2-275-05513-8. ffhal-01850928f.
    3. De nouvelles règles en matière de responsabilité applicables aux produits et à l'IA pour protéger les consommateurs et favoriser l'innovation.

    https://ec.europa.eu/commission/presscorner/detail/fr/ip_22_5807

    1. Décision. n° 2018-765 DC du 12 juin 2018, Loi relative à la protection des données personnelles.
    2. Décret n°2017-330 du 14 mars 2017, Art. R. 311-3-1 CRPA.
    3. Desmoulin-Canseiler, S., Le Métayer, D., Décider avec les algorithmes. Quelle place pour l’homme, quelle place pour le droit, coll. « le sens du droit » Dalloz, 2020.
    4. g. C E Brodley and M A Friedl ‘Identifying Mislabeled Training Data’ (1999) 11 Journal of Artificial Intelligence Research
    5. g. Schröder, M., in: Streinz, R. (Ed.), TEU/TFEU, 3rd edition (2018), Art. 114 TFEU para. 42 f.). CJEU, Case C-376/98 (Germany v Parliament and Council), ECLI:EU:C:2000:544, para. 86
    6. Etienne Wery, Responsabilité des dommages créés par l’IA : vers un cadre juridique spécifique, Publié le 28/09/2022,
    7. https://www.droit-technologie.org/actualites/responsabilite-des-dommages-crees-par-lia-vers-un-cadre-juridique-specifique/
    8. Etikk I praksis. Nord J Appl Ethics « Law and algorithms in the public domain », 2016:

    http://dx.doi.org/10.5324/eip.v10i1.1973 consulté le 2 juin 2024.

    1. Etude annuelle 2017 du Conseil d’Etat, Puissance publique et plateformes numériques: accompagner « l’ubérisation », La documentation française.
    2. Mancosu, Le cont entieux des actes pris sur la base de d′ algorithms, un point de vue italien, Rev. generale du droit, 2019, n.49010.
    3. GDPR, art 28; Recital 81; this is a new requirement which did not exist in previous legislation.
    4. GDPR, arts 24-36; see also Recitals 81-83; Information Commissioner’s Office ICO GDPR guidance: Contracts and liabilities between controllers and processors (2017). Draft. Available at

    https://ico.org.uk/media/aboutthe-ico/consultations/2014789/draft-gdpr-contracts-guidance-v1-for-consultation-september-2017.pdf

    1. Gilles J. Guglielmi, 'Contrôle des algorithmes et droit du contentieux administratif français, ' : Revue générale du droit on line, 2023, numéro 63766

    (www.revuegeneraledudroit.eu/?p=63766) https://www.revuegeneraledudroit.eu/blog/2023/02/06/controle-des-algorithmes-et-droit-du-contentieux-administratif-francais/

    1. Guidelines on Artificial Intelligence for the Confederation, disponible sur:

    https://www.sbfi.admin.ch/sbfi/fr/home/politique-fri/fri-2021-2024/themes-transversaux/numerisation-fri/intelligence-artificielle.html, consulté le 7 décembre 2022.

    1. Isabelle Gavanon et Valentin Le Marec, Affaire Google c. CNIL: le Conseil d’État confirme la sanction record de 50 millions d’euros, dalloz-actualite, le 30 juin 2020,

    https://www.dalloz-actualite.fr/flash/affaire-google-c-cnil-conseil-d-etat-confirme-sanction-record-de-50-millions-d-euros

    1. -F. Kerleo, L′administration de produit, AJDA, 2020
    2. Johan Wolswinkel, INTELLIGENCE ARTIFICIELLE ET DROIT ADMINISTRATIF, sous la supervision du Comité européen de coopération juridique (CDCJ) Décembre, 2022. https://www.coe.int/fr/web/cdcj/home
    3. Ratti et M. Peyronnet, Controverse: Algorithme et risqué de discrimination: quell controle du juge? Rev, de droit du travail, 2021.
    4. Loi no 2018-166 du 8 mars 2018 relative à l’orientation et à la réussite des élèves.
    5. Mavundla v MEC: Department of Co-Operative Government and Traditional Affairs KwaZulu-Natal and Others (7940/2024P) [2025] ZAKZPHC 2 (8 January 2025).

    https://www.saflii.org/za/cases/ZAKZPHC/2025/2.html

    1. Ordre national des médecins. Le médecin et le patient dans le monde des data, des algorithmes et de l’intelligence artificielle. Le compte rendu du débat du 30 janvier 2018. Débat de l’Ordre. Janvier 2018.

    www.conseil-national.medecin.fr/sites/default/files/externalpackage/debat/1thxfnx/cnom_debatia.pdf.

    1. Yolka, La droit de l′immateriel public AJDA, 2017.
    2. Pour une vision d’ensemble, V. Cluzel-Métayer, L., « The Judicial Review of the Automated Administrative Act », European Review of Digital Administration and Law, 2020, vol. 1, 1-2, p. 101
    3. R Clayton ‘Accountability, Judicial Scrutiny and Contracting Out’ (2015) UK Constitutional Law Blog. Available at

    https://ukconstitutionallaw.org/2015/11/30/richard-clayton-qc-accountability-judicial-scrutinyand-contracting-out

    1. R V Panel on Take-overs and Mergers, ex parte Datafin [1987] 1 All ER 564
    2. Rapport sur la responsabilité en matière d’intelligence artificielle et d’autres technologies numériques émergentes (Liability for Artificial Intelligence and other emerging technologies), disponible en anglais uniquement,

    https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

    1. Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016, art. 22.
    2. Résolution du Parlement européen concernant des règles de droit civil sur la robotique adoptée le 16 février 2017, EC/2015/2103(INL), V. Le 25 avril 2018.
    3. Abiteboul, G. Dowek, Le temps des algorithmes, Essai Le Pommier, 2017.
    4. Sereno, Focus sur les discriminations par algorithme, Rsv. De droit du travail, 2020.
    5. Sur le cumul des responsabilités: C.É, du 26 juillet 1918, 49595/ 55240, Lemonnier.
    6. Sur le pouvoir discrétionnaire de l’administration: CE, 6 avril 1973, requête numéro 86690, Jacques.
    7. par ex. Bourcier, D., De Filippi, P., « Les algorithmes sont-ils devenus le langage ordinaire de l’administration? », in Koubi, G., Cluzel-Métayer, L., Tamzini, W., Lectures critiques du Code des relations entre le public et l’administration, 2018, LGDJ; Timmer, I., Rietveld, R., « Rule-based systems for decision support and decision-making play an important role in Dutch legal practice. A brief overview of applications and implications » Droit et société, 2019/3, n° 103.
    8. Villani C. Donner un sens à l’intelligence artificielle. Pour une stratégie nationale et européenne. Mars 2018.

    www.vie-publique.fr/sites/default/files/rapport/pdf/184000159.pdf.

    1. Vincent FAGOT, « Intelligence artificielle: la France vise la première place en Europe », Le Monde, 22 mars 2017, certains « principes éthiques » devraient être préservés (autonomie de la personne, bienveillance/non-malveillance, justice).

     

     

     

    References:

     

    1: almarajie alarabia:

    alkutub walmualafat alqanunia aleama walmutakhasisa:

    • d. jurji shafiq sari:
    • tatawur tariqat wamaeayir tamyiz watahdid aleaqd al'iidarii fi alqanuniayn almisrii walfaransiu, dar alnahdat alearabiati, 1996.
    • qawaeid wa'ahkam alqada' al'iidari, altabeat alsaadisatu, dar alnahdat alearabiati, alqahirati, 2003.
    • d. hasan alnamir, mumarasat alshurtat bayn sulutat aldabtiat al'iidariat walqadayiyati, maktabat alwafa' alqanuniat, al'iiskandiriat, 2016m.
    • da. hamdi eali eumr, almasyuwliat ean 'aemal alsultat altanfidhiati, almasyuwliat ean 'aemal alsultat altanfidhiat ghayr altaeaqudiati, dirasat muqaranati, dar alnahdat alearabiati, 1996m.
    • d. hamdi yasin eukashat, mawsueat almurafaeat al'iidariat wal'iithbat fi qada' majlis aldawlati, alkutaab althaani, 'iijra'at aldaewaa al'iidariati, munsha'at almaearifi, al'iiskandiriat, 2016m.
    • da. eali muhamad bidir, da. eisam eabd alwahaab albarzanji, du. mahdi yasin alsalami, mabadi wa'ahkam alqanun al'iidari, dar alkutub liltibaeat walnashra, baghdad, 1993m
    • d. eamaar euaydi, nazariat almasyuwliat al'iidariati, aldiywan alwataniu lilmatbueat aljamieiati- aljazayar, altabeat althaaniatu, 2004m.
    • da. majid raghib alhulu, alqada' al'iidari, dar aljamieat aljadidati, al'iiskandiriat, 2010m.
    • d. muhamad saeid husayn 'amin, dirasat wajizat fi fikrat aleuqud al'iidariat wa'ahkam abramha, dar althaqafat aljamieiati, 1992.
    • d. muhamad muhamad eabd allatifi, altatawurat alhadithat fi masyuwliat aladab, maktabat aljala' aljadidati- almansurati, 2000m.
    • d. mahmud sami jamal aldiyn, aldaewaa al'iidariat wal'iijra'at 'amam alqadi al'iidari, ta1, munsha'at almaearifi, al'iiskandiriat, 2004m.
    • d. mustafaa 'abu zayd fahmi wada. majid raghib alhulu, aldaeawaa al'iidariatu, dar aljamieat aljadidati, al'iiskandiriat, 2005m.
    • d. najih 'ahmad eabd alwahaabi, altatawur alhadith lilqanun al'iidarii fi zili nizam alhukumat alalkitruniati, dar alnahdat alearabiati, 2012

    alrasayil:

    • d. eabd alsalam habis alsuwifan, 'iidarat mirfaq al'amn bialwasayil al'iiliktruniat aljadidati, risalat dukturah muqadimatan likuliyat alhuquq jamieat alaiskandariat, 2012m.
    • d. muhamad hatim salah aldiyn eamir, almasyuwliat almadaniat ean al'ajhizat altibiyat dirasat muqaranat fi kulin min misr wafiransa, risalat dukturah, kuliyat alhuquq jamieat eayn shams, 1996m.
    • 'a. muhamad hamdi eali eumr, altaewid ean al'adrar fi majal almasyuwliat al'iidariati- dirasat muqaranat - risalat linayl darajat almajistir fi alhuquqi, kuliyat alhuquq jamieat alzaqaziq, 2021.
    • d. mustafaa eabd almaqsud salim, maswuwliat almuazaf aleami ean tanfidh 'awamir ruasayih 'idaryaan wjnayyaan wmdnyaan, dirasat muqaranat mae alqanun alfaransi, risalat dukturah muqadimatan likuliyat alhuquqi, jamieat almansurat, 1988.

    • 'a. huna nur aldiyn, almasyuwliat al'iidariat ean 'aemal alshurtat, risalat majistir muqadimatan likuliyat alhuquq waleulum alsiyasiati, jamieat khaydar bisikrati, aljazayar, 2015m.

ملفات

شارك

إرسال الاستشهاد إلى

الإحصائيات