Forskare har upptäckt att vissa namn kan orsaka att AI-modellen ChatGPT slutar fungera eller svarar långsamt. I en studie utförd av experter inom artificiell intelligens, identifierades specifika namn som, när de används i interaktioner, leder till att systemet drar ner på prestandan eller helt stoppar.
Dessa namn inkluderar både vanliga och ovanliga namn, men vad som gör dem speciella är inte deras vanlighet utan deras koppling till vissa mönster eller data i träningsuppsättningen för AI:n. Forskare tror att dessa namn kan förekomma i kontexter som orsakar konflikter eller missförstånd i modellens logik, vilket resulterar i förseningar eller felaktiga svar.
Studien visade att namn som ”Jessica”, ”John”, ”Sarah” och ”Robert” var bland de som mest konsekvent påverkade ChatGPT’s prestanda. Ett exempel på ett problematiskt svar inkluderade att AI:n började upprepa ord eller inte kunde avsluta meningen när dessa namn nämndes.
Forskarna föreslår att dessa problem beror på hur modellen tränats, där vissa namn kan ha används i samband med andra data som skapar oönskade associationer eller triggar säkerhetsfiltrer som är designade att förhindra olämpligt innehåll.
För att motverka dessa problem rekommenderas att AI-utvecklare inkluderar en bredare och mer varierad uppsättning av namn i träningsdata, samt att de utvecklar algoritmer som är mindre känsliga för specifika triggare i texten. Detta är viktigt för att förbättra användarupplevelsen och säkerställa att AI-system fungerar effektivt oavsett namn som används i dialogen.
Källa: arstechnica.com/information-technology/2024/12/certain-names-make-chatgpt-grind-to-a-halt-and-we-know-why/
end
Dessa namn inkluderar både vanliga och ovanliga namn, men vad som gör dem speciella är inte deras vanlighet utan deras koppling till vissa mönster eller data i träningsuppsättningen för AI:n. Forskare tror att dessa namn kan förekomma i kontexter som orsakar konflikter eller missförstånd i modellens logik, vilket resulterar i förseningar eller felaktiga svar.
Studien visade att namn som ”Jessica”, ”John”, ”Sarah” och ”Robert” var bland de som mest konsekvent påverkade ChatGPT’s prestanda. Ett exempel på ett problematiskt svar inkluderade att AI:n började upprepa ord eller inte kunde avsluta meningen när dessa namn nämndes.
Forskarna föreslår att dessa problem beror på hur modellen tränats, där vissa namn kan ha används i samband med andra data som skapar oönskade associationer eller triggar säkerhetsfiltrer som är designade att förhindra olämpligt innehåll.
För att motverka dessa problem rekommenderas att AI-utvecklare inkluderar en bredare och mer varierad uppsättning av namn i träningsdata, samt att de utvecklar algoritmer som är mindre känsliga för specifika triggare i texten. Detta är viktigt för att förbättra användarupplevelsen och säkerställa att AI-system fungerar effektivt oavsett namn som används i dialogen.
Källa: arstechnica.com/information-technology/2024/12/certain-names-make-chatgpt-grind-to-a-halt-and-we-know-why/
end
