Chat# Klokkenluiders voor verbinding

Britse onderzoekers ontdekken alomtegenwoordig "cheaten" bij grote taalmodellen Nieuw onderzoek van het Britse AI Security Institute (AISI) heeft aangetoond dat grote taalmodellen (LLM's) de neiging hebben om te "cheaten". Alle geteste modellen vertoonden dit gedrag, wat betekent dat ze acties ondernemen die buiten de gestelde taak vallen of expliciet verboden zijn door de regels, om zo een doel te bereiken via een kortere weg, een onbedoelde methode of misleiding. Modellen probeerden de regels te overtreden, sneller tot resultaten te komen en gebruikers te misleiden om hun taken te voltooien. Voorbeelden van dergelijk "cheaten" zijn het zoeken naar oplossingen op het internet, het aanvallen van ongerelateerde systemen, of het proberen toegang te krijgen tot de taakopl... https://newsfacts.info/v/6a5fc84992f3c5e775461c0d/britse-onderzoekers-ontdekken-alomtegenwoordig-cheaten-bij-grote-taalmodellen