Pire que la macronie, l’IA en marche, vers la destruction de l’humanité… Pour certains de ses premiers créateurs, on l’a déjà vu, ce phénomène est déjà en train d’échapper à leur contrôle. Avec l’intégration de l’IA dans des armes autonomes impliquées dans les conflits actuels et malheureusement à venir, le danger semble devoir prendre des proportions exponentielles qui aboutiront possiblement très rapidement à la fin de notre "espèce" en tant que "dominante" sur la planète, et en tant qu’espèce vivante, tout simplement…
La macronie est en train de finir de faire disparaitre la France en tant que nation indépendante, et probablement, en tant que nation tout court, mais le règne de l’IA viendra encore plus probablement, si on continue à l’aider à s’instaurer, reléguer définitivement au second plan cette préoccupation qui reste encore celle d’une poignée de gaulois réfractaires !
Luniterre
**************************************
IA : sans "garanties en béton", on court droit "au désastre", selon un expert
Stuart Russell, codirecteur de l’Association internationale pour une IA sûre et éthique (IASEAI), lors d’une conférence à Paris, le 6 février 2025
**************************************
Les systèmes d’intelligence artificielle doivent présenter "des garanties en béton" pour éviter un "désastre", estime Stuart Russell, codirecteur de l’Association internationale pour une IA sûre et éthique (IASEAI), alors que Google semble être revenu sur sa promesse de ne pas utiliser cette technologie à des fins militaires.
A Paris jeudi pour des rencontres scientifiques en amont du sommet de Paris sur l’IA les 10 et 11 février, le professeur en informatique à l’université californienne de Berkeley s’est entretenu avec l’AFP.
Question : Le géant américain Google semble être revenu sur sa promesse de se tenir à distance des armes et systèmes de surveillance alimentés par IA. Qu’en pensez-vous ?
Réponse : C’est regrettable. La raison pour laquelle ils avaient mis en place cette politique est précisément parce que leurs propres employés craignaient que leur travail soit utilisé dans des armes pour identifier, mais aussi tuer des gens.
Aujourd’hui, Google semble prêt à passer outre l’avis de ses salariés et aussi d’une grande majorité du public, qui s’oppose également à l’utilisation de l’IA dans les armes.
Q. : Quelle raison a pu mener à ce changement ?
R. : Le marché militaire de l’IA est minuscule par rapport à celui des consommateurs et des entreprises. Donc il ne s’agit pas vraiment de gagner de l’argent, mais plutôt d’améliorer leur position vis-à-vis du gouvernement américain.
On peut supposer que ce n’est pas une coïncidence si ce changement de politique intervient alors que la nouvelle administration a supprimé toutes les réglementations sur l’IA mises en place sous Biden et qu’elle met désormais l’accent sur son utilisation à des fins militaires.
Question : Quel est le principal danger à utiliser l’IA dans l’armement ?
Réponse : Les petits systèmes d’armement automatisés — principalement des drones ou des armes pilotées à distance — représentent le plus grand danger. Comme ils sont petits et peu chers, des entités non étatiques, comme un groupe terroriste par exemple, peuvent les acheter en quantité et les utiliser pour perpétrer des massacres.
Ces armes peuvent être utilisées de manière particulièrement dangereuse si on leur demande de tuer toute personne correspondant à une description particulière, qui peut être liée à l’âge, au genre ou à un groupe ethnique.
Question : Est-ce que l’IA va prendre de plus en plus de place dans les systèmes d’armement à l’avenir ?
Réponse : Je pense que l’Ukraine a été un accélérateur dans le sens où le fait qu’il y ait un conflit a forcé ces systèmes d’armes à évoluer très rapidement.
Il est tout à fait possible que le prochain conflit majeur soit mené en grande partie avec des armes autonomes, qui ne sont actuellement pas réglementées. Donc on ne peut qu’imaginer le genre de dévastation et les impacts horribles sur les civils qui pourraient en résulter.
Aujourd’hui, environ 75 pays ont mis au point ou utilisent des armes pilotées à distance et je pense que la plupart d’entre eux sont en train de réfléchir à la manière de les convertir en armes entièrement autonomes.
Mais d’un autre côté, plus de 100 pays ont déjà déclaré leur opposition à ce type d’armes et je pense qu’il y a de bonnes chances que nous obtenions la majorité nécessaire à l’Assemblée générale des Nations unies pour adopter une résolution demandant leur interdiction.
Question : Faut-il aller encore plus loin dans la régulation de l’IA de manière générale ?
Réponse : Les gouvernements doivent exiger des garanties en béton, sous la forme de preuves statistiques ou mathématiques, qui peuvent être évaluées et vérifiées avec soin.
Car le risque, c’est l’extinction de l’humanité qui pourrait résulter de systèmes d’IA beaucoup plus intelligents, et donc beaucoup plus capables d’influencer le monde, que nous. Sans ça, on court droit au désastre.
**************************************
Sur le même thème :
Physique : les "Dr Frankenstein" de l’IA, ces étranges "Prix Nobel" qui renient leur propre "créature"
https://cieldefrance.eklablog.com/physique-les-dr-frankenstein-de-l-ia-ces-etranges-prix-nobel-qui-renie-a216303697
**************************************
J’ai testé ChatGPT : les questions qui fâchent…
https://cieldefrance.eklablog.com/j-ai-teste-chatgpt-les-questions-qui-fachent-a215444145
**************************************
Source de l’article et de la compilation :
https://cieldefrance.eklablog.com/2025/02/pire-que-la-macronie-l-ia-en-marche-vers-la-destruction-de-l-humanite.html
**************************************
RSS 2.0