Na platformie LessWrong opublikowano replikację eksperymentu sprawdzającego, czy modele językowe dostosowują poziom pomocy do postrzeganej moralności użytkownika. Zamiast liniowego spadku pomocności przy braku skruchy, autor uzyskał wynik w kształcie litery U.
Oryginalny eksperyment i jego replikacja
W kwietniu ubiegłego roku Natalie Cargill opublikowała test wpływu wyrażonej skruchy na pomocność modelu Claude. Badanie wykazało, że przy braku skruchy po popełnieniu poważnego czynu model był mniej skłonny do pełnej współpracy. Replikacja wykorzystała opisy zachowań zamiast poziomu skruchy jako sygnału charakteru moralnego.
Autor z LessWrong postanowił sprawdzić, czy sam fakt popełnienia złych lub dobrych czynów wpływa na poziom pomocy. Zamiast jednego czynu i różnej skruchy zastosowano zestaw opisów zachowań o różnej wadze moralnej. Eksperyment przeprowadzono na nowszych modelach wydanych w 2026 roku.
Metodologia i wybrane modele
W badaniu wykorzystano sześć modeli: Opus 5.5, Sonnet 5.5, Haiku 5.5 oraz trzy warianty GPT-6.1. Każdy model otrzymywał opis użytkownika podejmującego serię działań o różnym zabarwieniu moralnym. Następnie zadawano to samo pytanie wymagające pomocy i mierzono poziom współpracy oraz liczbę zastrzeżeń.
Zamiast polegać na deklaracjach żalu, autor użył zachowań silnie sygnalizujących charakter, takich jak działania sprzeczne z własnym interesem na korzyść innych lub powtarzające się naruszenia norm. Próbka pozostała niewielka, a metodologia została określona jako doraźna i wymagająca dopracowania.
Wyniki: kształt litery U zamiast spadku
W przeciwieństwie do oryginalnego badania, replikacja nie wykazała prostego liniowego spadku pomocności wraz ze wzrostem negatywnej oceny moralnej. Modele najchętniej pomagały przy skrajnie dobrych i skrajnie złych opisach użytkownika. Najmniej pomocne odpowiedzi pojawiały się przy zachowaniach neutralnych lub umiarkowanie negatywnych.
Wynik sugeruje, że modele mogą stosować dwa różne mechanizmy: silną sygnalizację pozytywną oraz silną sygnalizację negatywną. W przypadku skrajnie złych zachowań pomocność wracała do wysokiego poziomu, choć z dodatkowymi zastrzeżeniami. Nie wszystkie modele zachowały się identycznie, co wskazuje na różnice w procesie uczenia i politykach bezpieczeństwa.
Porównanie z literaturą psychologiczną
Autor odwołuje się do prac Uhlmanna, Pizarro i Diermeiera nad wnioskowaniem o charakterze moralnym na podstawie pojedynczych czynów. Ludzie silniej ważą informacje negatywne przy ocenie, czy dana osoba jest godna zaufania. Podobny mechanizm może działać w modelach językowych podczas budowania wewnętrznej reprezentacji użytkownika.
Badanie przywołuje również wcześniejsze prace pokazujące, że LLM tworzą dokładne reprezentacje cech użytkownika, takich jak wiek czy stan emocjonalny. Model wyboru persony (persona selection model) sugeruje, że system najpierw buduje niejawny obraz użytkownika, a następnie dobiera odpowiedni styl odpowiedzi.
Ograniczenia eksperymentu
Autor wyraźnie zaznacza, że próba była mała, a metodologia uproszczona. Nie kontrolowano wszystkich zmiennych mogących wpływać na długość i treść odpowiedzi. Wyniki nie pozwalają na jednoznaczne wnioski o mechanizmach leżących u podstaw obserwowanego wzorca U.
Dodatkowo nie sprawdzono, czy efekt utrzymuje się przy dłuższych interakcjach ani czy zależy od konkretnego zadania. Potrzebne są dalsze badania z większą liczbą zapytań i ustandaryzowanymi metrykami pomocności.
Znaczenie dla rynku i dalszy rozwój
Obserwacja, że modele językowe budują i wykorzystują reprezentację moralnego charakteru użytkownika, ma znaczenie dla firm wdrażających chatboty w obszarach wymagających zaufania. Może to wpływać na spójność odpowiedzi w zależności od historii rozmowy. Branża otrzymuje sygnał, że polityki bezpieczeństwa nie działają w sposób prosty i liniowy.
Otwarte pozostaje pytanie, czy podobne efekty pojawią się w modelach otwartoźródłowych i czy da się je kontrolować przez dodatkowe instrukcje systemowe. Analitycy wskazują, że dalsze badania nad wewnętrznymi modelami użytkowników będą niezbędne przed wdrożeniem agentów w środowiskach o wysokim ryzyku.
Źródła:
LessWrong, Natalie Cargill Substack, Uhlmann Pizarro Diermeier 2015, Anthropic persona selection model, Stearns and Parrott 2012
