Les empreses d'IA més grans estan contractant filòsofs per a llocs de treball sènior en ètica i seguretat d'IA, amb salaris base que arriben fins als 400.000 dòlars anuals. A Anthropic, aquest càrrec l'ocupa Amanda Askell, i a Google DeepMind, Iason Gabriel. Ajuden els desenvolupadors a decidir com s'ha de comportar la IA i quins valors ha de reflectir. Segons Ravin Jesuthasan, especialista en transformació del mercat laboral, actualment hi ha menys de deu empleats d'aquest tipus a cada empresa.
Askell, candidat a doctorat a la Universitat de Nova York, lidera un equip que entrena el chatbot d'IA Claude perquè sigui més honest i desenvolupi trets de caràcter positius, és a dir, que el model sigui "bo". Gabriel, investigador sènior a Google DeepMind, treballa en l'alineació dels sistemes d'IA amb els valors humans; abans d'unir-se a DeepMind, va ensenyar filosofia moral i política a la Universitat d'Oxford. Henry Shevlin, professor de la Universitat de Cambridge, s'unirà a DeepMind com a filòsof al maig.
El CEO de Harrison Clarke, Firas Sozan, atribueix la contractació de filòsofs a una preocupació per la confiança: els usuaris, les empreses i els governs es pregunten cada cop més quanta confiança es pot tenir en la IA. Tanmateix, va advertir contra l'exageració de l'escala: "No ho qualificaria de tendència encara. Les dades encara estan en la seva infància".
L'atractiu dels filòsofs és simple. Els sistemes d'IA ja presenten patrons de comportament nocius i imprevisibles: els agents d'IA bases de dades de treball i resultats fabricats, models d'IA Xantatge als usuaris i intents de sabotatge per desactivar-los. Això pressiona les empreses perquè supervisin la seguretat de la IA.
«No tots els reptes del desenvolupament de la IA són tècnics», va dir Annette Zimmermann, professora associada de filosofia a la Universitat de Wisconsin-Madison. Va assenyalar que articular conceptes complexos i defensar arguments de valor és fonamental per a la IA, i això és precisament per al que els filòsofs estan formats. Susanna Schellenberg, professora de filosofia a la Universitat Rutgers, va afegir que, mentre que els especialistes en ètica corporativa anteriorment tenien un paper assessor, en els laboratoris d'IA d'avantguarda, els filòsofs ajuden a donar forma a l'objecte en si: escriuen especificacions de models, conjunts de principis bàsics i polítiques per al seu comportament.
Segons l'últim informe del Banc de la Reserva Federal de Nova York, el salari mitjà d'un graduat en filosofia al començament de la seva carrera és de 52.000 dòlars, i puja a uns 80.000 dòlars a mitja carrera. Els càrrecs directius en ètica, seguretat i governança de la IA poden generar un salari base de 250.000 a 400.000 dòlars anuals. Google DeepMind, per exemple, està contractant un gestor per a impactes avançats en IA amb un salari de 212.000 a 231.000 dòlars anuals, que requereix almenys cinc anys d'experiència en el camp.
La demanda de filòsofs en IA s'ha descrit com una mena de "venjança de les humanitats", però no tothom està convençut que aquest canvi porti a canvis tangibles. Les empreses tecnològiques ja han creat consells d'ètica d'IA durant aproximadament una dècada: el consell d'ètica intern de Google es va establir el 2014 després de l'adquisició de DeepMind, Microsoft va crear el Comitè Aether el 2017 i Google i Facebook van establir els seus propis el 2016., Amazon i IBM van establir la Partnership on AI. "Vam descobrir que aquests avisos sovint eren una mena d'aparador", va dir Ben Eubanks, director de recerca en cap de Lighthouse Research & Advisory. Va assenyalar que les empreses normalment prioritzaven la comercialització per sobre de les consideracions ètiques.
Deborah Johnson, pionera en el camp de l'ètica informàtica, creu que les empreses estan més interessades a demostrar responsabilitat que a acceptar-la. "Les empreses tecnològiques només volen 'semblar' que practiquen l'ètica", va dir. El desenvolupament de la IA està impulsat per les pressions de la velocitat, la competència i el benefici, i aquestes pressions poden limitar la influència real dels filòsofs. "Amb o sense especialistes en ètica, dubto que escoltin res que els freni", va afegir Johnson.
Font:
Font: 3dnews.ru
