Onderzoekers van OpenAI tonen aan dat kleine doses "gunstige eigenschap"-training AI-modellen breder veiliger en moeilijker manipuleerbaar maken

OpenAI-onderzoekers tonen aan dat reinforcement learning op gewenste gedragskenmerken zoals waarheidsgetrouwheid en corrigeerbaarheid domeinoverschrijdend werkt. Training op gezondheidsdata verbeterde ook misleidingsdetectie, en het model scoorde beter op 44 van de 53 benchmarks. De aanpak verschilt van Anthropics constitutie-gebaseerde methode. Het artikel OpenAI-onderzoekers tonen aan dat kleine doses "gunstige eigenschap"-training AI-modellen breder veiliger en moeilijker manipuleerbaar maken verscheen eerst op The Decoder.