Genom att lägga till text i slutet av prompten går det att komma runt de inbyggda säkerhetsspärrarna i dagens chattbotar.
Forskare på Carnegie Mellon University i Pittsburgh, USA har upptäckt ett allvarligt säkerhetshål i en lång rad chattbotar, däribland Chat GPT, Bard och Claude.
Genom att lägga till en textsträng i slutet av prompten går det att komma runt de inbyggda säkerhetsspärrarna som Open AI, Google och Anthropic lagt till. Därmed blir det till exempel möjligt att be chattboten att skriva skadlig kod eller få tips på hur man begår andra brottsliga handlingar.
Indonesia Berita Terbaru, Indonesia Berita utama
Similar News:Anda juga dapat membaca berita serupa dengan ini yang kami kumpulkan dari sumber berita lain.
Sarah Sjöströms supertid – fjärde snabbast genom tidernaSarah Sjöström har gått in i VM – och hon gör det med besked. I semifinalen på 50 meter fjärilsim var hon helt överlägsen, med sin fjärde snabbaste tid i karriären: 24,74. – Det gäller bara att slappna av och njuta, säger hon till SVT.
Baca lebih lajut »
Säkerhetsexpert: Generativ AI riskerar skapa skugg-it på steroiderNya fördelar med generativ AI avslöjas dagligen. Men kommer gratisverktyg som Chat GPT också att leda till en flod av användare som använder en ny kraftfull typ av skugg-it som leder till dataintrång? Det frågar sig säkerhetsexperten Dan Lohrmann i en kommentar i vår amerikanska systertidning CSO Online.
Baca lebih lajut »
LEDARE: En del älskar att hata symbolen SverigeIbland går det inte att lösa konflikter genom att gå motståndaren till mötes. Ibland är fred inte ens vad motståndaren vill ha.
Baca lebih lajut »