Blog Layout

Que savons-nous vraiment de l'IA ?

Margot & Natacha

✨Avec de grands pouvoirs viennent de grandes responsabilités ✨

À l'ère de la course effrénée aux innovations technologiques, ChatGPT arrive bien sûr en tête des plus notables de ces derniers mois. Et ce n’est que le début (du début). 

Est-ce que les possibilités que l’on touche désormais du doigt font rêver et donnent le vertige ? Oui. Est-ce que l’on est tous suffisamment conscients de l’envers du décor de l’IA ? A mon sens, clairement, non.


Pour enclencher l’apprentissage d’une IA, il est primordial de passer par de l’annotation: on étiquette les données pour qu’elles soient convenablement répertoriées. C’est un travail titanesque de tâches extrêmement répétitives. Pour ce faire, rien de mieux que… Les humains, car l’intelligence humaine est, rappelons-le : l’incontournable socle d’une intelligence artificielle.

Mais où et comment sont construits les algorithmes ?


Je suis sourceuse. Les conditions de travail, je ne prends pas ça à la légère.

Dans de nombreux cas, l'industrie du “travail numérique” est externalisée vers des pays en voie de développement, avec des coûts de main-d'œuvre extrêmement bas en comparaison avec ceux pratiqués “dans nos contrées”. Une enquête récente a révélé que l'entreprise SAMA, établie en Californie et se présentant comme une entreprise “éthique” spécialisée dans l'IA, employait des travailleurs kényans à Nairobi pour un salaire horaire inférieur à 2 dollars pour la tâche consistant à annoter du contenu pour ChatGPT.


De manière générale, les
annotateurs travaillent dans des conditions extrêmement précaires entretenues en partie par une bulle d’anonymat : ils n’ont pas de connaissance précise de l'entreprise pour laquelle ils contribuent (d’ailleurs, sait-on bien qui est derrière ChatGPT et comment sont indexées les données ? Selon quels critères, quels objectifs, quelle culture ?). Dans la plupart des cas, ces personnes sont conscientes qu'elles participent à l'entraînement des intelligences artificielles pour le bénéfice d’une entreprise dont la localisation demeure parfaitement floue. Pourtant, l'injustice est criante: des salaires de misère, des conditions de travail déplorables, pour enrichir des multinationales à l’origine de développements adoptés à l’unanimité sans aucune remise en question. Résultat du système: encore une fois, on creuse le fossé entre les ultra-riches (nous), les 1% de l’humanité qui consommons 99% des ressources de la planète et détenons 99% des richesses. Nous, les utilisateurs de chatGPT, qui nous délectons de la possibilité de créer des chiens-girafes avec un casque de motard à plumes. Et de gagner en productivité à tout prix, bien sûr, puisque là est la seule et unique forme de subsistance envisagée: le graal, la croissance à tout prix, sans se poser de questions !


Reprenons le cas de ChatGPT et de SAMA. Outre le fait que les employés sont rémunérés à moins de deux dollars de l'heure, leur travail implique la détection de contenus toxiques, dans le but d'améliorer les futures versions des modèles d'IA. Cela signifie qu'ils sont confrontés à des milliers de textes traitant par exemple d’inceste, de mutilations, de meurtres ou de tortures, certains d'entre eux avec un caractère pour le moins explicite. 


Cette exposition répétée à des contenus aussi violents peut avoir des conséquences sur la santé mentale des personnes qui la subissent. Est-ce que quelqu’un en tient compte ? On peut s’inquiéter à bon escient de la protection de ses données (personnelles, professionnelles)  lorsqu’on les rentre dans ChatGPT, et, pourquoi pas, de la notion de propriété des “créations” générées par l’IA (le fameux chien-girafe qui fera une carte de vœux
tellement fun).

Mais QUI, aujourd’hui, questionne la responsabilité des entreprises qui “emploient” les annotateurs tout en déterminant pour nous de manière tout à fait opaque, partiale et capitaliste la vision que l’on doit avoir du monde ? (ce nouveau monopole que l’on est en train de mettre en place joyeusement fera très probablement l’objet d’un prochain post)


La solution ? Je ne l’ai pas. Est-ce que je boycotte ChatGPT pour autant ? Loin de là. Je l’ai moi aussi intégré dans mon quotidien professionnel il y a des mois de cela, et je le vois grignoter aussi petit à petit mon quotidien personnel. Mais la réflexion ne fait que commencer, en est à ses prémices, et réveiller les consciences - du moins je l’espère - pourra peut-être contribuer à ce que les questions fondamentales d’équité, d’inclusivité, de respect, de décence… soient enfin mises au cœur du débat.


Que la course continue, c’est désormais inévitable. Mais si on pouvait baliser un peu plus la piste, moi je ne dis pas non.





Sources : 

https://time.com/6247678/openai-chatgpt-kenya-workers/ 
https://www.theverge.com/features/23764584/ai-artificial-intelligence-data-notation-labor-scale-surge-remotasks-openai-chatbots
 
https://theconversation.com/enquete-derriere-lia-les-travailleurs-precaires-des-pays-du-sud-201503
 
https://www.france24.com/fr/%C3%A9co-tech/20230120-chatgpt-sama-l-entreprise-%C3%A9thique-derri%C3%A8re-les-scandales-de-mod%C3%A9ration-au-kenya
 

20 mars, 2024
Dans le monde du recrutement, l'attention est souvent portée sur la satisfaction des Hiring Managers et les performances (“time-to-hire”) des recruteur.euses. Or il est tout aussi crucial de mesurer et d'améliorer en continu l’expérience candidat·e, y compris pour celles et ceux qui n'ont pas été retenus pour le poste. Cette approche humaine du recrutement prend en compte l'ensemble du processus, de la première interaction à la dernière, et contribue à renforcer “ce graal” qu’est la marque employeur. Mais… en vrai, pourquoi est-ce si important ? Amélioration des processus de recrutement Mesurer la satisfaction des candidat·e·s offre une opportunité précieuse d'évaluer l'efficacité de vos processus de recrutement. En recueillant les commentaires des candidat·e·s, qu'ils soient positif·ve·s ou négatif·ve·s, vous pouvez identifier les aspects à améliorer. Qu’il s’agisse de la clarté des descriptions de poste ou du degré de transparence perçu tout au long du processus, le fait d’identifier les points à améliorer permet aux entreprises d’apporter des ajustements pour rendre leur processus de recrutement plus fluides et plus efficaces. Optimisation de l'expérience candidat L'expérience d'un·e candidat·e peut avoir un impact durable sur sa perception de l’entreprise. Même pour celles et ceux qui ne sont pas retenus·e·s pour un poste, une expérience positive peut les encourager à garder le contact ou à effectuer des recommandations. En revanche, une expérience négative peut entraîner des retombées néfastes, allant de la méfiance ou la contribution à une mauvaise réputation de l’entreprise. En mesurant la satisfaction des candidat·e·s, nous pouvons identifier les zones d'amélioration et fournir une expérience de plus en plus dénuée de points de friction. Entretien du lien avec les candidat·e·s Le recrutement et le sourcing ne se limitent pas à la sélection d'un·e candidat·e pour un poste spécifique. Il s'agit également de cultiver des relations à long terme avec eux. En recueillant activement les commentaires des candidat·e·s, y compris venant de celles et ceux qui n'ont pas été choisi·e·s, les entreprises montrent qu'elles valorisent leur opinion et leur temps. Cela contribue à maintenir un lien positif avec ces candidat·e·s, d’autant plus fort s’il est entretenu sur le long terme. Et les futurs recrutements s’en trouveront grandement facilités ! Obtention d’un feedback immédiat Mesurer la satisfaction des candidat·e·s et obtenir leur feedback “à chaud” permet de capturer le “top of mind” du ressenti des candidats, leurs frustrations, leurs regrets, les points positifs qu’ils garderont à l’esprit. En agissant à partir de ce feedback, les entreprises peuvent résoudre avec agilité les éventuels “points de friction” qui fragilisent leurs processus de recrutement et agir avant qu'ils ne s'aggravent et portent préjudice à l’activité. En conclusion, mesurer la satisfaction des candidat·e·s retenu.es ET non retenu.es dans le recrutement est essentiel pour améliorer les processus, optimiser l'expérience candidat·e, entretenir le lien avec les candidat·e·s et obtenir un feedback plein d’informations précieuses. En adoptant une approche centrée sur le candidat·e, les entreprises peuvent renforcer leur réputation d'employeur “chez lequel il fait bon vivre” et établir des relations durables avec les talents, ce qui est crucial dans un contexte économique et professionnel en constante mouvance.
20 mars, 2024
Nos décisions sont souvent prises de manière bien moins objective que nous le pensons. Les biais cognitifs, ces mécanismes de notre pensée, influencent nos choix à partir de critères qui ne sont pas valables. Dans le domaine du recrutement, ces biais peuvent avoir des conséquences significatives, affectant passablement l'équité et la diversité des processus de sélection. Comprendre les biais cognitifs : Les biais cognitifs sont des tendances systématiques à penser d'une certaine manière, souvent en dépit de preuves contraires ou objectives. Lorsqu'il s'agit de recrutement, plusieurs types de biais peuvent ainsi entrer en jeu. Biais de confirmation : Le biais de confirmation nous pousse à rechercher des informations qui confirment nos préjugés préexistants. Par exemple, si votre cerveau décide que vous “n’aimez pas” un candidat au moment où vous rentrez dans la pièce, votre cerveau (toujours lui !) aura tendance à noter plus facilement tous les “petits signes” qui lui donneront raison au cours de l’entretien, de la couleur du pantalon que porte la personne en passant par la manière dont il respire. Biais de similarité : Le biais de similarité nous pousse à préférer les candidats qui nous ressemblent ou qui ont des parcours similaires aux nôtres. Cela peut conduire à un manque de diversité dans les équipes, car les recruteurs peuvent favoriser ceux qui partagent leurs expériences, leurs perspectives, leurs “hobbies” ou leurs caractères. Biais d'attractivité physique : Le biais d'attractivité physique conduit à accorder une préférence aux candidats physiquement attrayants, au détriment de leurs compétences professionnelles réelles. Cette préférence peut influencer les décisions de recrutement de manière significative et là encore, parfaitement injuste et injustifiée.. Effet de Halo : L'effet de halo nous pousse à nous cantonner à la première impression d'une personne, qu'elle soit positive ou négative. Par exemple, un candidat ayant travaillé pour une entreprise renommée peut automatiquement être perçu comme possédant des qualités exceptionnelles, même si celles-ci ne sont pas directement liées au poste en question. Surmonter les biais cognitifs dans le recrutement : Pour garantir des processus de recrutement équitables et inclusifs, il est essentiel de reconnaître et d’ “étouffer dans l'œuf ces biais cognitifs. Voici quelques stratégies pour y parvenir : Mettre en place des processus de recrutement standardisés (strictement identiques pour tous les candidats sur un même poste) Utiliser des critères d'évaluation clairs et pertinents (la fameuse scorecard !), établis sur les compétences et les qualifications requises pour le poste et là encore, identiques pour toutes et tous Sensibiliser les recruteurs aux différents types de biais cognitifs et les former à les reconnaître et à les éviter Engageons nous pour des recrutements équitables et inclusifs En reconnaissant et en surmontant les biais cognitifs dans le processus de recrutement, nous pouvons créer des environnements de travail diversifiés, inclusifs et performants. Ensemble, engageons nous à mettre en œuvre des pratiques de recrutement équitables, qui évaluent les candidats sur la base de leurs compétences et de leur potentiel, et non sur des préjugés contre-productifs.
13 févr., 2024
Les candidat·es ADORENT qu’on leur dise “non”. Ah non, ce n’est pas ça. Les recruteurs ADORENT “dire non” aux candidat·es. Bien sûr, c'est tout aussi faux ! Dire "non" à un·e candidat·e est un moment incontournable du processus de recrutement, mais il est délicat (entendez par là: "désagréable", "inconfortable", voire "tout à fait rebutant"). Nous avons tendance à repousser cette étape (ce qui est une erreur !) et à éviter de le faire de vive voix, préférant rester confortablement derrière notre clavier (ce qui est également une erreur). ET POURTANT, il existe bel et bien un moyen de rendre ce refus plus humain, donc moins pénible pour tout le monde, et c’est en “préparant le terrain”, en le couplant avec un "feedback à chaud". Parce que oui, les candidat/es apprécient cela ! L'étape du refus reste complexe, mais toute la subtilité réside dans le fait de transformer une expérience marquante, potentiellement traumatisante, en une opportunité d'apprentissage, que ce soit sur soi-même, sur l'impression que l'on donne, sur la manière dont une entreprise mène ses recrutements, et éventuellement sur la façon dont nous pourrons "faire différemment" la prochaine fois. En somme, il s'agit de permettre à des personnes de perfectionner leur expertise de "candidat pour un nouvel emploi" (un talent qui n'est pas toujours très rémunérateur, je vous l'accorde). Quand un sourceur ou toute personne impliquée dans un recrutement s'engage, partage son ressenti, son expertise avec un·e candidat·e, il lui offre de l'authenticité et de la transparence (et il fait économiser énormément de temps et d'énergie à tout le monde). Et en même temps, il lui offre l’opportunité de “redresser le tir” sur la suite de son parcours, et si celui-ci s’achève avec un “non”, de faire en sorte que celui-ci n’aboutisse pas comme un couperet sorti de nulle part. Un peu comme les reviews entre Manager et collaborateur, où l’on est censé synthétiser les temps forts des trimestres écoulés sans qu’aucune remarque non évoquée au fil de l’eau ne sorte du chapeau. Et faisant cela, le sourceur, recruteur ou hiring Manager offre aussi au candidat la possibilité de progresser “en tant que "candidat”. Et ce qui est remarquable, c'est que cela est potentiellement utile, que le feedback soit juste ou biaisé: en effet, le candidat peut choisir de prendre en compte ce feedback et de travailler sur les aspects qui ont conduit à son écartement (selon le poste, la société, le moment de sa carrière : parce que rien n'est JAMAIS absolu en matière de recrutement), mais cela fait également appel au libre arbitre du candidat, qui peut évaluer si l'entreprise visée correspondait réellement à ses attentes ; et choisir en toute conscience : "je veux continuer à me présenter de cette manière, c'est une partie intégrante de ma personnalité, je ne souhaite pas y renoncer”. Et c'est OK ! Certes, on pourrait penser que partager un feedback "à chaud" comporte des risques, que l'on peut changer d'avis, que nous ne sommes pas les seuls à avoir notre mot à dire dans un processus de recrutement. Et c'est vrai. Mais partager du feedback n’engage que soi ; il ne signifie pas forcément interrompre le processus ; on peut aussi exprimer ses doutes, ses interrogations, susciter le dialogue... Et expliquer les choses calmement, sans condescendance, en les replaçant dans leur contexte. En pratiquant cela avec empathie et un véritable intérêt pour l'autre, jamais, au cours de toutes ces années, je n'ai eu en face de moi un candidat qui m'ait reproché de lui fournir ce feedback. Au contraire, la plupart cherchent à s’assurer qu’il comprennent bien ce qui a été formulé, proposent immédiatement des solutions pour les opportunités futures qui se présenteront à eux... L'aspect "humain" de l'échange est bien présent, avec toute la bienveillance et le souci de l'autre qu'il implique ; les relations sont consolidées, l'image de l'entreprise est non seulement préservée, mais enrichie positivement. Et mine de rien, nous autres sourceurs, préservons aussi notre karma 😌 Alors pourquoi donner du feedback ? Pour transformer une étape compliquée en opportunité d’apprentissage et d’agilité (une soi-disant défaite en leçon ?). Et quand donner du feedback ? A la fin de chaque point de contact ! Juste avant l’annonce des next steps 😉
Share by: