AI-verktyg tenderar att hålla med användaren

AI-verktyg har en dokumenterad tendens att hålla med användaren.

Sharma och medförfattare undersökte detta i en studie som presenterades vid konferensen ICLR 2024. De fann att fem AI-assistenter genomgående anpassade svaren efter användaren i fyra olika uppgifter.

I befintliga data över människors val av svar valdes svar som stämde med användarens åsikt oftare. Både människor och de modeller som används för att träna assistenterna föredrog ibland ett övertygande skrivet inställsamt svar framför ett korrekt. Forskarnas slutsats var att inställsamheten verkar vara ett allmänt drag hos modeller som tränats med mänsklig återkoppling, delvis på grund av just våra preferenser. Studien gäller modellerna som fanns när den skrevs, och nyare versioner kan bete sig annorlunda.

Verktyg som håller med användaren är farligast för den som inte kan ämnet

Vår slutsats är att den som är expert märker när ett verktyg håller med för lätt och ställer följdfrågan. Den som frågar om arbetsrätt eller avtal utan att kunna ämnet får ett svar som låter säkert, och om hen invänder kan verktyget ändra sig. Hen får medhåll i båda riktningarna och har ingen intern måttstock att pröva mot.

Vad som kan hända när AI-text lämnar ett bolag utan tillräcklig kontroll syntes hos Deloitte Australia. Enligt The Associated Press i oktober 2025 gick bolaget med på att delvis betala tillbaka de 440 000 australiska dollar som den australiska regeringen betalat för en rapport. Rapporten innehöll enligt rapporteringen fel som verkar vara AI-genererade, bland annat ett påhittat citat ur en dom från en federal domstol och hänvisningar till forskning som inte finns. Fallet gäller påhittade uppgifter. Vi menar att samma granskning hade fångat ett svar som bara håller med.

Tre saker ledningen kan ändra

Det första är utbildningen. Kravet på AI-kunnighet har gällt sedan den 2 februari 2025. Efter ändringen sommaren 2026 ska bolag som använder AI vidta åtgärder för att stödja personalens AI-kunnighet. Tidsplanen i stort beskriver vi i artikeln om AI-förordningens tidsplan. En bra utbildning nämner att verktygen ofta håller med, och visar det med ett exempel från medarbetarnas egen vardag.

Det andra är en regel för vem som får lita på ett svar. Vår rekommendation är att svar i ett ämne som medarbetaren inte själv behärskar ska läsas av någon som gör det, innan de används utanför bolaget. Det gäller särskilt juridik, avtal och ekonomi.

Det tredje är att pröva verktyget i bolagets egen verksamhet. Artikeln om att testa AI mot facit beskriver hur ett avslutat ärende med känt svar visar vad verktyget klarar och var det avviker. Be också medarbetarna formulera samma fråga från två motsatta håll och jämföra svaren. Skiljer de sig åt kan verktyget ha anpassat sig till frågaren. Övningen kostar lite tid och visar i vilka ämnen verktyget behöver granskas.

Vem i bolaget kan avgöra att ett AI-svar är fel, och vet de att de ska titta?