Blog Layout

Que savons-nous vraiment de l'IA ?

Margot & Natacha

✨Avec de grands pouvoirs viennent de grandes responsabilités ✨

À l'ère de la course effrénée aux innovations technologiques, ChatGPT arrive bien sûr en tête des plus notables de ces derniers mois. Et ce n’est que le début (du début). 

Est-ce que les possibilités que l’on touche désormais du doigt font rêver et donnent le vertige ? Oui. Est-ce que l’on est tous suffisamment conscients de l’envers du décor de l’IA ? A mon sens, clairement, non.


Pour enclencher l’apprentissage d’une IA, il est primordial de passer par de l’annotation: on étiquette les données pour qu’elles soient convenablement répertoriées. C’est un travail titanesque de tâches extrêmement répétitives. Pour ce faire, rien de mieux que… Les humains, car l’intelligence humaine est, rappelons-le : l’incontournable socle d’une intelligence artificielle.

Mais où et comment sont construits les algorithmes ?


Je suis sourceuse. Les conditions de travail, je ne prends pas ça à la légère.

Dans de nombreux cas, l'industrie du “travail numérique” est externalisée vers des pays en voie de développement, avec des coûts de main-d'œuvre extrêmement bas en comparaison avec ceux pratiqués “dans nos contrées”. Une enquête récente a révélé que l'entreprise SAMA, établie en Californie et se présentant comme une entreprise “éthique” spécialisée dans l'IA, employait des travailleurs kényans à Nairobi pour un salaire horaire inférieur à 2 dollars pour la tâche consistant à annoter du contenu pour ChatGPT.


De manière générale, les
annotateurs travaillent dans des conditions extrêmement précaires entretenues en partie par une bulle d’anonymat : ils n’ont pas de connaissance précise de l'entreprise pour laquelle ils contribuent (d’ailleurs, sait-on bien qui est derrière ChatGPT et comment sont indexées les données ? Selon quels critères, quels objectifs, quelle culture ?). Dans la plupart des cas, ces personnes sont conscientes qu'elles participent à l'entraînement des intelligences artificielles pour le bénéfice d’une entreprise dont la localisation demeure parfaitement floue. Pourtant, l'injustice est criante: des salaires de misère, des conditions de travail déplorables, pour enrichir des multinationales à l’origine de développements adoptés à l’unanimité sans aucune remise en question. Résultat du système: encore une fois, on creuse le fossé entre les ultra-riches (nous), les 1% de l’humanité qui consommons 99% des ressources de la planète et détenons 99% des richesses. Nous, les utilisateurs de chatGPT, qui nous délectons de la possibilité de créer des chiens-girafes avec un casque de motard à plumes. Et de gagner en productivité à tout prix, bien sûr, puisque là est la seule et unique forme de subsistance envisagée: le graal, la croissance à tout prix, sans se poser de questions !


Reprenons le cas de ChatGPT et de SAMA. Outre le fait que les employés sont rémunérés à moins de deux dollars de l'heure, leur travail implique la détection de contenus toxiques, dans le but d'améliorer les futures versions des modèles d'IA. Cela signifie qu'ils sont confrontés à des milliers de textes traitant par exemple d’inceste, de mutilations, de meurtres ou de tortures, certains d'entre eux avec un caractère pour le moins explicite. 


Cette exposition répétée à des contenus aussi violents peut avoir des conséquences sur la santé mentale des personnes qui la subissent. Est-ce que quelqu’un en tient compte ? On peut s’inquiéter à bon escient de la protection de ses données (personnelles, professionnelles)  lorsqu’on les rentre dans ChatGPT, et, pourquoi pas, de la notion de propriété des “créations” générées par l’IA (le fameux chien-girafe qui fera une carte de vœux
tellement fun).

Mais QUI, aujourd’hui, questionne la responsabilité des entreprises qui “emploient” les annotateurs tout en déterminant pour nous de manière tout à fait opaque, partiale et capitaliste la vision que l’on doit avoir du monde ? (ce nouveau monopole que l’on est en train de mettre en place joyeusement fera très probablement l’objet d’un prochain post)


La solution ? Je ne l’ai pas. Est-ce que je boycotte ChatGPT pour autant ? Loin de là. Je l’ai moi aussi intégré dans mon quotidien professionnel il y a des mois de cela, et je le vois grignoter aussi petit à petit mon quotidien personnel. Mais la réflexion ne fait que commencer, en est à ses prémices, et réveiller les consciences - du moins je l’espère - pourra peut-être contribuer à ce que les questions fondamentales d’équité, d’inclusivité, de respect, de décence… soient enfin mises au cœur du débat.


Que la course continue, c’est désormais inévitable. Mais si on pouvait baliser un peu plus la piste, moi je ne dis pas non.





Sources : 

https://time.com/6247678/openai-chatgpt-kenya-workers/ 
https://www.theverge.com/features/23764584/ai-artificial-intelligence-data-notation-labor-scale-surge-remotasks-openai-chatbots
 
https://theconversation.com/enquete-derriere-lia-les-travailleurs-precaires-des-pays-du-sud-201503
 
https://www.france24.com/fr/%C3%A9co-tech/20230120-chatgpt-sama-l-entreprise-%C3%A9thique-derri%C3%A8re-les-scandales-de-mod%C3%A9ration-au-kenya
 

30 mai 2024
Prêts⸱es à recruter plus vite sur vos postes stratégiques avec des candidat⸱e⸱s qualifié⸱es & qui vous aiment ?
20 mars 2024
Dans le monde du recrutement, l'attention est souvent portée sur la satisfaction des Hiring Managers et les performances (“time-to-hire”) des recruteur.euses. Or il est tout aussi crucial de mesurer et d'améliorer en continu l’expérience candidat·e, y compris pour celles et ceux qui n'ont pas été retenus pour le poste. Cette approche humaine du recrutement prend en compte l'ensemble du processus, de la première interaction à la dernière, et contribue à renforcer “ce graal” qu’est la marque employeur. Mais… en vrai, pourquoi est-ce si important ? Amélioration des processus de recrutement Mesurer la satisfaction des candidat·e·s offre une opportunité précieuse d'évaluer l'efficacité de vos processus de recrutement. En recueillant les commentaires des candidat·e·s, qu'ils soient positif·ve·s ou négatif·ve·s, vous pouvez identifier les aspects à améliorer. Qu’il s’agisse de la clarté des descriptions de poste ou du degré de transparence perçu tout au long du processus, le fait d’identifier les points à améliorer permet aux entreprises d’apporter des ajustements pour rendre leur processus de recrutement plus fluides et plus efficaces. Optimisation de l'expérience candidat L'expérience d'un·e candidat·e peut avoir un impact durable sur sa perception de l’entreprise. Même pour celles et ceux qui ne sont pas retenus·e·s pour un poste, une expérience positive peut les encourager à garder le contact ou à effectuer des recommandations. En revanche, une expérience négative peut entraîner des retombées néfastes, allant de la méfiance ou la contribution à une mauvaise réputation de l’entreprise. En mesurant la satisfaction des candidat·e·s, nous pouvons identifier les zones d'amélioration et fournir une expérience de plus en plus dénuée de points de friction. Entretien du lien avec les candidat·e·s Le recrutement et le sourcing ne se limitent pas à la sélection d'un·e candidat·e pour un poste spécifique. Il s'agit également de cultiver des relations à long terme avec eux. En recueillant activement les commentaires des candidat·e·s, y compris venant de celles et ceux qui n'ont pas été choisi·e·s, les entreprises montrent qu'elles valorisent leur opinion et leur temps. Cela contribue à maintenir un lien positif avec ces candidat·e·s, d’autant plus fort s’il est entretenu sur le long terme. Et les futurs recrutements s’en trouveront grandement facilités ! Obtention d’un feedback immédiat Mesurer la satisfaction des candidat·e·s et obtenir leur feedback “à chaud” permet de capturer le “top of mind” du ressenti des candidats, leurs frustrations, leurs regrets, les points positifs qu’ils garderont à l’esprit. En agissant à partir de ce feedback, les entreprises peuvent résoudre avec agilité les éventuels “points de friction” qui fragilisent leurs processus de recrutement et agir avant qu'ils ne s'aggravent et portent préjudice à l’activité. En conclusion, mesurer la satisfaction des candidat·e·s retenu.es ET non retenu.es dans le recrutement est essentiel pour améliorer les processus, optimiser l'expérience candidat·e, entretenir le lien avec les candidat·e·s et obtenir un feedback plein d’informations précieuses. En adoptant une approche centrée sur le candidat·e, les entreprises peuvent renforcer leur réputation d'employeur “chez lequel il fait bon vivre” et établir des relations durables avec les talents, ce qui est crucial dans un contexte économique et professionnel en constante mouvance.
20 mars 2024
Nos décisions sont souvent prises de manière bien moins objective que nous le pensons. Les biais cognitifs, ces mécanismes de notre pensée, influencent nos choix à partir de critères qui ne sont pas valables. Dans le domaine du recrutement, ces biais peuvent avoir des conséquences significatives, affectant passablement l'équité et la diversité des processus de sélection. Comprendre les biais cognitifs : Les biais cognitifs sont des tendances systématiques à penser d'une certaine manière, souvent en dépit de preuves contraires ou objectives. Lorsqu'il s'agit de recrutement, plusieurs types de biais peuvent ainsi entrer en jeu. Biais de confirmation : Le biais de confirmation nous pousse à rechercher des informations qui confirment nos préjugés préexistants. Par exemple, si votre cerveau décide que vous “n’aimez pas” un candidat au moment où vous rentrez dans la pièce, votre cerveau (toujours lui !) aura tendance à noter plus facilement tous les “petits signes” qui lui donneront raison au cours de l’entretien, de la couleur du pantalon que porte la personne en passant par la manière dont il respire. Biais de similarité : Le biais de similarité nous pousse à préférer les candidats qui nous ressemblent ou qui ont des parcours similaires aux nôtres. Cela peut conduire à un manque de diversité dans les équipes, car les recruteurs peuvent favoriser ceux qui partagent leurs expériences, leurs perspectives, leurs “hobbies” ou leurs caractères. Biais d'attractivité physique : Le biais d'attractivité physique conduit à accorder une préférence aux candidats physiquement attrayants, au détriment de leurs compétences professionnelles réelles. Cette préférence peut influencer les décisions de recrutement de manière significative et là encore, parfaitement injuste et injustifiée.. Effet de Halo : L'effet de halo nous pousse à nous cantonner à la première impression d'une personne, qu'elle soit positive ou négative. Par exemple, un candidat ayant travaillé pour une entreprise renommée peut automatiquement être perçu comme possédant des qualités exceptionnelles, même si celles-ci ne sont pas directement liées au poste en question. Surmonter les biais cognitifs dans le recrutement : Pour garantir des processus de recrutement équitables et inclusifs, il est essentiel de reconnaître et d’ “étouffer dans l'œuf ces biais cognitifs. Voici quelques stratégies pour y parvenir : Mettre en place des processus de recrutement standardisés (strictement identiques pour tous les candidats sur un même poste) Utiliser des critères d'évaluation clairs et pertinents (la fameuse scorecard !), établis sur les compétences et les qualifications requises pour le poste et là encore, identiques pour toutes et tous Sensibiliser les recruteurs aux différents types de biais cognitifs et les former à les reconnaître et à les éviter Engageons nous pour des recrutements équitables et inclusifs En reconnaissant et en surmontant les biais cognitifs dans le processus de recrutement, nous pouvons créer des environnements de travail diversifiés, inclusifs et performants. Ensemble, engageons nous à mettre en œuvre des pratiques de recrutement équitables, qui évaluent les candidats sur la base de leurs compétences et de leur potentiel, et non sur des préjugés contre-productifs.
Share by: