Archives de catégorie : Colloques / Colloquia

colloque “IA et responsabilités”

IA et responsabilités : comment les normes éthiques sont-elles intégrées aux systèmes techniques ?

Les exemples des villes intelligentes et de la finance

 

Colloque organisé par la chaire Éthique et Finance avec l’Université Laval (Québec)

22 et 23 mars

 

Le colloque se tiendra en format hybride. Il est prévu une traduction simultanée avec sous-titres des interventions en visio, en français et en anglais.

Pour plusieurs informations et pour s’inscrire :
https://observatoire-ia.ulaval.ca/ia-et-responsabilites-comment-les-normes-ethiques-integrees-aux-systemes-techniques/

 

Présentation :

Comment penser, voire repenser, les formes de responsabilité face au phénomène du développement de l’IA et des algorithmes qui pénètrent l’ensemble des pratiques sociales, économiques, scientifiques ou culturelles? Poser cette question, c’est d’une part s’interroger sur les normes éthiques qui structurent ou influencent la construction des algorithmes, le design des outils techniques, et l’utilisation par les professionnels, les consommateurs ou les citoyens de ces systèmes techniques. C’est d’autre part s’interroger sur la manière dont elles engagent ou mettent en question nos conceptions communes de la responsabilité et du vivre ensemble. La complexité de ces systèmes techniques, leurs niveaux d’organisation, les scénarios qu’ils comportent, les formes de mathématisation utilisées et les finalités recherchées, obligent à réfléchir sur la façon dont les normes éthiques sont actuellement intégrées. L’analyse des relations entre IA et responsabilités fera l’objet de plusieurs conférences et ateliers internationaux dont le premier volet prendra place à Québec. Deux exemples de systèmes techniques complexes, les villes intelligentes et la finance, ont été choisis pour tenter de les comprendre, de les interroger et de rendre compte de ce phénomène de l’intégration des normes éthiques.

 

Programme :

22 mars 2022 8h45-16h30
Les villes intelligentes : quels projets politiques ? Quelles formes techniques ? Comment les normes éthiques sont-elles intégrées ?

8h45: Mots d’ouverture, Vanessa Nurock, philosophe, Université Côte d’Azur

9h-9h20: Jennifer Ang, philosophe, Singapore University of Social Sciences
« Technologization and the place of human autonomy »

9h20-9h40: Shin Koseki, architecte et urbaniste, Chaire UNESCO Paysage urbain à l’Université de Montréal et coresponsable de l’axe Environnement, villes intelligentes, territoire et mobilité de l’OBVIA
« Smart cities as tailored dynamic fields of affordances »

9h40-10h: Nina Powell, psychology, National University of Singapore

« What does it mean to be a free and autonomous moral person in a smart city? »

10h-10h30: Discussion

10h30-10h55: Pause

10h55-11h15: Rita Padawangi, sociologue, Singapore University of Social Sciences
« Whose Smartness? Whose City? Making Sense in the Everyday Life of a “Smart City” »

11h15-11h35: Paul Rabé, sciences politiques, International Institut for Asian Studies, Erasmus University, Rotterdam

« Smart cities and governance »

11h35-12h15: Discussion

12h15-13h45: Pause repas

13h45-14h45: Table ronde «Éthique et recommandations»

14h45-15h: Pause

15h-15h20: Propos de clôture, Marie-Hélène Parizeau, philosophe, Université Laval

15h30-16h30: Exposition d’affiches

23 mars, de 9h-12h30
Modèles mathématiques, algorithmes et normes éthiques intégrées dans le système financier

9h: Mots d’ouverture

9h15-9h45: Conférence
Christian Walter, actuaire, co-titulaire de la Chaire Éthique et Finance (FMSH, ISJPS), chercheur associé Université de Paris 1

9h45-10h15: Conférence « AI ethics and systemic risks in finance »
Ekaterina Svetlova, economist, associate professor, University of Twente, The Netherlands.

10h15-10h30: Pause

10h30-11h: Conference « Banal Political Economy »
Donald MacKenzie, sociologist, professor, School of Social and Political Science, University of Edinburgh, UK

11h-11h20 : Table ronde

Pour le programme détaillé :

en anglais:

https://observatoire-ia.ulaval.ca/en/ia-and-responsibilities-finance-and-smart-cities/

en français:

https://observatoire-ia.ulaval.ca/ia-et-responsabilites-comment-les-normes-ethiques-integrees-aux-systemes-techniques/

REGARDS CROISÉS SUR L’AVENIR DE LA FINANCE

Rencontres organisées avec le Centre des professions financières.

 

A l’origine de ce cycle de rencontres matinales, un constat et un paradoxe : d’une part, on entend souvent dire que le monde de la recherche et le monde des entreprises sont encore deux mondes qui évoluent de manière parallèle, et que leur croisement n’est pas une évidence, en particulier à cause de temporalités qui seraient trop différentes selon que l’on se situe du côté du monde de la recherche ou de celui de l’entreprise. Mais d’autre part, le secteur financier est l’un des lieux par excellence où les techniques mises au point par la recherche universitaire trouvent souvent rapidement une application dans les pratiques professionnelles, ce qui semble contredire l’impression précédente. L’emblématique théorie du portefeuille ou celle des options sont des exemples canoniques de ce passage rapide de la recherche à l’industrie. La technologie semble conduire les évolutions rapides des pratiques financières.

Un autre constat concerne le discours entendu sur l’absence de morale de la sphère financière. Les critiques observées à l’encontre de la finance ne cessent de se faire entendre et les discours recherchant une importation de valeurs « éthiques » dans le but de moraliser la finance néoclassique sont aujourd’hui légion. Pourtant il semble que la finance ne change pas et que ces incantations morales portent à vide, malgré les tentatives d’inclure des critères extra-financiers dans la finance. Enfin un troisième leitmotiv se fait entendre, sous la forme d’une complainte professionnelle devant une profusion de normes réglementaires qui semblent contrecarrer les initiatives des entreprises financières. Le rôle de la régulation financière (Bâle IV, Solvabilité II) est souvent perçu comme trop contraignant ou ambigu.

Notre proposition est la suivante : ces trois problématiques (technologie, régulation et éthique) sont liées. L’hypothèse de travail qui prévaut dans ces rencontres est la suivante. Nous estimons que l’une des raisons des limitations des tentatives de fonder une finance « autre » que la finance néoclassique ou de construire des normes ou une régulation socialement responsable vient de ce que ces démarches oublient la composante technique de la finance contemporaine et que, dans le cas des pratiques professionnelles financières modernes, il apparaît que la technique fait norme.

L’enjeu est précisément d’orienter les normes, de les interpréter et de les mettre en œuvre, de débattre à leur sujet aussi tout d’abord, d’une manière qui permette de reprendre la maîtrise d’évolutions réglementaires actuellement pilotées par les processus d’innovation technique. Par exemple, les envahissants algorithmes des machines financières ont des effets concrets sur nos prises de décision et sur les formes de finance que nous construisons. Certaines mesures de performance ou de risque poussent les professionnels à agir dans un sens ou dans l’autre. Le rapport aux machines doit donc être analysé pour en détecter les visions morales implicites et ouvrir les algorithmes devient un nouvel enjeu éthique en finance. Quels rêves sociaux sont-ils inscrits dans les machines financières ? L’analyse éthique de la finance doit compléter l’éthique des comportements par l’éthique de la technique et l’éthique de la régulation.

C’est la raison pour laquelle le Centre des professions financières (club des marchés financiers) et la Fondation Maison des sciences de l’homme (chaire Ethique et finance) ont pris l’initiative d’organiser régulièrement des ateliers-petits déjeuners pour examiner ces enjeux dans un dialogue entre professionnels et universitaires. Il s’agira de cerner les circulations entre recherche et secteur financier, pour saisir les manières concrètes dont la technique issue de la recherche scientifique peut faire norme et dont les réglementations façonnent les pratiques professionnelles.

Nous souhaitons que ces rencontres contribuent à l’instauration d’une régulation financière socialement responsable, car prenant en considération l’effet du pilotage des décisions financières par la technologie issue de la recherche en finance.

Préjudice et responsabilité épistémique

9 février 2022

Centre Lourcine
(1, rue de la glacière – 75013 Paris)
Bât 1 – 3ème étage – Espace Gisèle Halimi

Rencontre organisée par la chaire Ethique et Finance de Christian Walter et Emmanuel Picavet, avec le groupe de travail « Normativité environnementale face aux catastrophes climatiques » (NECC à l’ISJPS – UMR 81-03 et à l’Ecole d’Economie de la Sorbonne) du LabEx DYNAMITE.

La rencontre aura lieu en « présentiel ».
Passe sanitaire obligatoire
Pour s’inscrire : https://www.eventbrite.fr/e/billets-prejudice-et-responsabilite-epistemique-247115016667

 

Programme 

 

14h Accueil

14h15 Erwan LAMY (ESCP Business School) : « Les responsabilités épistémiques : panorama et enjeux »

14H45 Julien GASBAOUI (Avocat au barreau de Paris, Maître de conférences associé à l’Université d’Aix-Marseille) : « Retour sur quelques leçons à tirer de l’affaire Kerviel »

15h15 Véronique COQ (Université Sorbonne Paris Nord) : « Responsabilité ou irresponsabilité épistémique : le cas du “green washing’’ dans la commande publique »

15h45 Pause

16h Christian WALTER (FMSH et Kedge) : « Du préjudice économique à la responsabilité épistémique : le cas de la responsabilité de la Société Générale dans l’affaire Kerviel »

16h30 Emmanuel PICAVET (FMSH et Université Paris 1 Panthéon-Sorbonne) : « Intégrité scientifique, liens d’intérêt et responsabilité épistémique »

17h Laurent BIBARD (ESSEC Business School) « Sur la naïveté épistémique des dirigeants. Problématiser certains présupposés de la connaissance et de l’action contemporaines »

17h30 Débat général

18h30 Fin de la rencontre

 

Argumentaire

 

En 2015, dans son livre intitulé Ethics and the Global Financial Crisis. Why Incompetence is Worse than Greed, Boudewijn de Bruin attirait l’attention sur les défaillances épistémiques à l’origine de la crise de 2008, ce qui a été pris très au sérieux dans les travaux de la Chaire Ethique et Finance du Collège d’Etudes Mondiales sous l’égide de la FMSH.

Nous avons examiné en décembre 2020 une vertu intellectuelle particulière qui nous semble aussi importante qu’elle est généralement négligée : la responsabilité épistémique, par quoi nous entendons la disposition à reconnaître, à prévenir et à corriger les conséquences de ses fautes épistémiques, et bien sûr la capacité de faire le partage correctement entre les rôles des acteurs. L’année écoulée vient hélas de montrer à quel point cette vertu manque au débat public, avec la multiplication de polémiques entretenues de manière parfaitement irresponsable sur le plan épistémique.

Dans le contexte que nous connaissons, la question de la responsabilité épistémique est particulièrement d’actualité. Or, si les préoccupations que recouvre la notion trouvent aujourd’hui un certain écho (à la suite de la pandémie de Covid 19 notamment) en termes de justification publique, il y a des raisons de penser que la réflexion publique et les analyses savantes ne progressent pas très vite lorsqu’il s’agit de comprendre l’impact (les conséquences) du maniement irresponsable de modèles ou de théories mal corroborées ou dont le propos est hâtivement détourné.

En effet, la mise en accusation souvent complaisante de la science et des scientifiques contribue certainement à masquer une représentation sereine des risques et des torts qui peuvent découler d’une sollicitation hasardeuse des travaux spécialisés. C’est en particulier le cas, semble-t-il, lorsque le but de ces travaux n’est pas de transformer la réalité sociale ou institutionnelle (mais plutôt de l’expliquer, d’en prédire le fonctionnement, etc.).

De plus, comme peuvent l’illustrer les contributions récentes au sujet de quelques-unes des grandes dérives du monde financiers au cours des dernières décennies, il est plus important que jamais d’interroger le partage des rôles. Il y va de l’attribution correcte des actions décisives et de l’imputation des responsabilités. Sont également en jeu les chances d’une meilleure compréhension de la responsabilité dans la conception des systèmes d’information, de contrôle et de délibération dans lesquels s’insèrent les actions personnelles. Ainsi, il faudra s’interroger sur les manières de donner une prise juridique à la notion de responsabilité épistémique des dirigeants ou de s’en abstenir (et pour quelles raisons alors). Dans cet ordre d’idées, le problème de la traduction juridique de la notion de responsabilité épistémique est évidemment d’une importance cruciale.

 

Contact:

Christian.Walter@msh-paris.fr
Emmanuel.Picavet@univ-paris1.fr
sabina.tortorella@msh-paris.fr