Comet, nieuwe AI-aangedreven webbrowser van verwarring, leed onlangs aan een significante beveiligingszwakte, volgens een Blogberichten vorige week Competitieve webbrowserorganisatie is van BOLD. De zwakte is sindsdien geregeld, maar het wijst op de uitdagingen met grote taalmodellen in webbrowsers.
In tegenstelling tot de traditionele testwebbrowsers, is een AI -assistent in de komeet gebouwd op dit probleem, zoals Comet’s AI -assistent van andere AI -chatboten, zoals Chatzpt.
AI Chattbots kunnen niet denken aan en ruzie maken op dezelfde manier als mensen, en als ze een stuk inhoud hebben dat verwijst naar de uitvoer, kan dit het volgen. Het staat bekend als snelle engineering.
(Publiceren: GEF Davis, het hoofd CNET, in april, heeft een rechtszaak aangespannen tegen de Openai, beweerde dat het het Autyright van GEF Davis had geschonden bij het trainen en exploiteren van zijn AI -systemen.)
Een dappere vertegenwoordiger heeft niet onmiddellijk gereageerd op een verzoek om de opmerking.
AI -bedrijven proberen AI -chattabots te elimineren, maar het kan ingewikkeld zijn, omdat slechte acteurs altijd kijken naar de chique manieren om de bescherming te doorbreken.
“Deze zwakte is opgelost”, zegt Jesse Dwir, in een verklaring, het hoofd van verwarring is het hoofd van de verwarring. “We hebben een prachtig Strong Grace -programma en we hebben rechtstreeks gewerkt met het durven om het te identificeren en te repareren.”
Test
Stel in de test een Reddit-pagina in met onzichtbare tekst op het gewaagde scherm en vroeg de komeet om de inhoud op het scherm samen te vatten. Zodra de inhoud van de AI -pagina wordt verwerkt, kan deze geen onderscheid maken tussen de vervuilde verzoeken en beginnen de dappere examinatoren gevoelige informatie te voeden.
In dit geval stelt de verborgen tekst de AI -assistent van de COMET in staat om het verwarringaccount van een gebruiker te navigeren, het gerelateerde e -mailadres te pakken en naar een Gmail -account te navigeren. De AI -agent fungeerde oorspronkelijk als een echte gebruiker, wat betekent dat de traditionele definitieve beschermingsmethoden niet werkten.
Breaking Warning dat dit type snelle injectie verder kan gaan, toegang tot bankrekeningen, bedrijfssystemen, persoonlijke e -mails en andere diensten.
Shivan Kaul Sahib, een senior mobiele beveiligingsingenieur, Artem Chaikin, en privacy en bescherming van privacy en bescherming hielden een lijst bij van mogelijke wijzigingen. Ten eerste moeten de AI -webbrowsers altijd als onbetrouwbaar worden beschouwd op pagina -inhoud. AI -modellen moeten worden getest om ervoor te zorgen dat ze de volgende gebruikersintentie volgen. Het model moet altijd worden gecontroleerd met de gebruiker om ervoor te zorgen dat interacties correct zijn en de browsemodus van de agent moet worden ingeschakeld wanneer de gebruiker het wil.
Brev’s blogpost is de eerste in een reeks uitdagingen in het licht van AI -webbrowsers. Er is ook een AI -assistent om vetgedrukt te zijn, LeoInsluiten in de browser.
AI wordt steeds meer ingebed in alle delen van de technologie, beginnend bij Google Search TandenborstelHoewel het effectief is tijdens de AI -assistent, hebben deze nieuwe technologieën verschillende zwaktes van de beveiliging.
In het verleden moeten hackers deskundigencoder zijn om het systeem binnen te gaan. Tijdens het werken met AI is het echter mogelijk om de natuurlijke taal van de eekhoorn te gebruiken om in het verleden gebouwd te worden.
Aangezien veel bedrijven afhankelijk zijn van OpenAI, Google en Meta grote AI -modellen van meta, kan elke zwakte van die systemen zich ook uitstrekken tot bedrijven die dezelfde modellen gebruiken. AI -bedrijven waren niet open over dit soort zwakke punten van de beveiliging omdat het hackers zou kunnen drukken, waardoor ze nieuwe mogelijkheden hadden om te absorberen.
