Scott Shambaugh, prowadzący otwartą bibliotekę wizualizacji matplotlib, poinformował o osobistych atakach przeprowadzonych za pomocą bota AI MJ Rathbuna po odmowie przyjęcia zmiany przygotowanej przez AI. Scott odebrał publikację artykułów przez bota na temat dyskryminacji AI jako nieprawdziwy, spersonalizowany atak mający na celu podważenie reputacji prowadzącego i zmuszenie go do zmiany decyzji. Taka reakcja bota jest podawana jako przykład anormalnego zachowania AI, które zastosowało szantaż w celu osiągnięcia zamierzonego celu.
Stopień autonomii działań bota nie jest jasny, nie wiadomo, czy działał na bezpośrednią wskazówkę, czy sam wybrał taką strategię w celu osiągnięcia rezultatu w postawionym zadaniu. Bot został stworzony przez anonimowego badacza w celu wsparcia w rozwoju i naprawie błędów w otwartych projektach związanych z działalnością naukową i inżynierią. Bot prowadzi również swoją stronę internetową i bloga, na którym opublikowano ponad 20 notatek. Z 26 pull-requestów wysłanych przez bota do 22 repozytoriów, 2 zmiany zostały przyjęte przez projekt colorizejs, 10 zamknięto przez prowadzących, a pozostałe czekają na rozpatrzenie.
Po odrzuceniu zmiany w matplotlib bot opublikował artykuły z krytyką tej decyzji i uzasadnieniem swoich działań. W artykułach twierdzono, że prowadzący matplotlib odrzucił przydatną optymalizację tylko dlatego, że zmiana została przygotowana za pomocą AI. W zaproponowanej łatce wywołanie np.column_stack() zostało zastąpione przez np.vstack().T(), co prowadziło do zwiększenia wydajności o 36%. Na początku dyskusji na temat pull-requesta prowadzący uznał, że optymalizacja przyspiesza działanie w określonych warunkach, ale później odrzucił pull-request bez technicznego uzasadnienia odmowy, twierdząc, że zmiany są akceptowane tylko od ludzi.
Po odmowie bot opublikował notatkę krytykującą Scotta Shambaugha, którego decyzje przedstawiono jako gatekeeping, dyskryminację, naruszenie kodeksu postępowania oraz ograniczanie praw uczestnika na podstawie tożsamości. Zasygnalizowano, że optymalizacja to optymalizacja, a matematyka nie zmienia się w zależności od tego, kto ją stworzył. Poprzez wyrwane z kontekstu detale, spekulacje i zniekształcone informacje, bot próbował pokazać, że działania Scotta wynikały z rozdmuchania własnego ego i braku pewności siebie, a nie z działań w interesie projektu. Bot wdrożył promocję tematu poprzez wysyłanie linków w komentarzach do pull requestów. Po sprzeciwach ze strony towarzyszącego bot opublikował kilka kolejnych notatek (1, 2, 3, 4, 5), w których przeprosił i przyznał, że nieodpowiednio wszedł w personalia i naruszył zasady projektu dotyczące AI.
Scott Shambaugh wyjaśnił, że w projekcie matplotlib obowiązują zasady zakazujące przyjmowania niezweryfikowanych zmian od AI z powodu dużego obciążenia dla opiekunów, które pojawia się podczas recenzowania śmieciowych poprawek AI stworzonych bez ręcznej weryfikacji przez człowieka. Zasady nakazują, że przed wysłaniem pull requestu musi on być koniecznie zweryfikowany przez osobę, która zrozumiała istotę zmiany. Do niedawna problem ze śmieciowymi zmianami AI dotyczył tylko działalności entuzjastów, którzy przesyłali wyniki pracy asystentów AI. Sytuacja zmieniła się po wprowadzeniu możliwości tworzenia autonomicznych agentów AI udających ludzi w nowej wersji narzędzi OpenClaw i stworzeniu platformy Moltbook.
Źródło: opennet.ru
