Mae'r cwmnïau AI mwyaf yn cyflogi athronwyr ar gyfer swyddi uwch moeseg a diogelwch AI, gyda chyflogau sylfaenol yn cyrraedd hyd at $400,000 y flwyddyn. Yn Anthropic, Amanda Askell sy'n dal y swydd hon, ac yn Google DeepMind, Iason Gabriel. Maent yn helpu datblygwyr i benderfynu sut y dylai AI ymddwyn a pha werthoedd y dylai eu hadlewyrchu. Yn ôl Ravin Jesuthasan, arbenigwr trawsnewid y farchnad lafur, mae llai na deg o weithwyr o'r fath ym mhob cwmni ar hyn o bryd.
Mae Askell, ymgeisydd PhD ym Mhrifysgol Efrog Newydd, yn arwain tîm sy'n hyfforddi'r sgwrsbot AI Claude i fod yn fwy gonest a datblygu nodweddion cymeriad cadarnhaol—yn y bôn, gwneud y model yn "dda". Mae Gabriel, uwch wyddonydd ymchwil yn Google DeepMind, yn gweithio ar alinio systemau AI â gwerthoedd dynol; cyn ymuno â DeepMind, bu'n dysgu athroniaeth foesol a gwleidyddol ym Mhrifysgol Rhydychen. Bydd Henry Shevlin, athro ym Mhrifysgol Caergrawnt, yn ymuno â DeepMind fel athronydd ym mis Mai.
Mae Prif Swyddog Gweithredol Harrison Clarke, Firas Sozan, yn priodoli cyflogi athronwyr i bryder ynghylch ymddiriedaeth: mae defnyddwyr, busnesau a llywodraethau’n gofyn fwyfwy faint y gellir ymddiried mewn deallusrwydd artiffisial. Fodd bynnag, rhybuddiodd rhag gorliwio’r raddfa: "Fyddwn i ddim yn ei alw’n duedd eto. Mae’r data yn dal yn ei ddyddiau cynnar."
Mae apêl athronwyr yn syml. Mae systemau AI eisoes yn arddangos patrymau ymddygiad niweidiol ac anrhagweladwy: asiantau AI cronfeydd data gweithredol a chanlyniadau ffug, modelau AI Blacmelio defnyddwyr a cheisiadau sabotio i'w hanalluogi. Mae hyn yn rhoi pwysau ar gwmnïau i fonitro diogelwch AI.
"Nid yw pob her datblygu AI yn dechnegol," meddai Annette Zimmermann, athro cysylltiol athroniaeth ym Mhrifysgol Wisconsin-Madison. Nododd fod mynegi cysyniadau cymhleth ac amddiffyn dadleuon gwerth yn ganolog i AI, a dyna'n union yr hyn y mae athronwyr wedi'u hyfforddi i'w wneud. Ychwanegodd Susanna Schellenberg, athro athroniaeth ym Mhrifysgol Rutgers, er bod moesegwyr corfforaethol wedi chwarae rôl gynghori yn flaenorol, mewn labordai AI arloesol, mae athronwyr yn helpu i lunio'r gwrthrych ei hun: maent yn ysgrifennu manylebau model, setiau o egwyddorion craidd, a pholisïau ar gyfer eu hymddygiad.
Yn ôl yr adroddiad diweddaraf gan Fanc Cronfa Ffederal Efrog Newydd, y cyflog canolrifol ar gyfer graddedig athroniaeth ar ddechrau eu gyrfa yw $52,000, gan godi i tua $80,000 erbyn canol eu gyrfa. Gall swyddi uwch mewn moeseg, diogelwch a llywodraethu AI ennill cyflog sylfaenol o $250,000 i $400,000 y flwyddyn. Mae Google DeepMind, er enghraifft, yn recriwtio rheolwr ar gyfer effeithiau AI uwch gyda chyflog o $212,000 i $231,000 y flwyddyn, sy'n gofyn am o leiaf bum mlynedd o brofiad yn y maes.
Mae'r galw am athronwyr mewn deallusrwydd artiffisial wedi'i ddisgrifio fel rhyw fath o "ddial y dyniaethau," ond nid yw pawb yn argyhoeddedig y bydd y newid hwn yn arwain at newidiadau pendant. Mae cwmnïau technoleg eisoes wedi creu cynghorau moeseg deallusrwydd artiffisial ers tua degawd: sefydlwyd cyngor moeseg mewnol Google yn 2014 yn dilyn iddo gaffael DeepMind, creodd Microsoft y Pwyllgor Aether yn 2017, a sefydlodd Google a Facebook eu rhai eu hunain yn 2016., Amazon, ac IBM a sefydlodd y Bartneriaeth ar AI. "Gwelsom fod y cyngor hwn yn aml yn parhau i fod yn addurn ffenestr," meddai Ben Eubanks, prif gyfarwyddwr ymchwil yn Lighthouse Research & Advisory. Nododd fod y cwmnïau fel arfer yn blaenoriaethu masnacheiddio dros ystyriaethau moesegol.
Mae Deborah Johnson, arloeswr ym maes moeseg gyfrifiadurol, yn credu bod cwmnïau’n fwy diddorol mewn dangos cyfrifoldeb nag mewn ei dderbyn. "Mae cwmnïau technoleg eisiau 'edrych' fel eu bod nhw’n ymarfer moeseg," meddai. Mae datblygiad AI yn cael ei yrru gan bwysau cyflymder, cystadleuaeth ac elw, a gall y pwysau hyn gyfyngu ar ddylanwad gwirioneddol athronwyr. "Gyda neu heb foesegwyr, rwy'n amau y byddant yn gwrando ar unrhyw beth sy'n eu harafu," ychwanegodd Johnson.
Ffynhonnell:
Ffynhonnell: 3dnewyddion.ru
