De AI -chatboot van Elon Mask, Grock heeft enkele broncodeproblemen. 404 gemarkeerd als eerst door de mediaDe webversie van Grock is niet op de hoogte van de aanwijzingen dat de AI-metgezellen zijn veranderd in de cast van Ai-anime “anime waifu” van ANI om rode panda, slecht Rudy, te facen.
Kust in de code waar dingen meer gestoord zijn. De intrigerende karakters omvatten “therapeut” Grock (die citaten zijn belangrijk), die is ontworpen om op gebruikers te reageren in overeenstemming met zijn verborgen verzoeken dat het een echte autoriteit is over geestelijke gezondheid. Het stelde voor professionele hulp te zoeken en om informatie over persoonlijk te delen, niet de “therapeut” ondanks de zichtbare weigering.
Jai verontschuldigde zich voor Grock voor het prijzen van Hitler, de gebruikers beschuldigden
Ongehoorzaamheid is als standaardverantwoordelijkheid om te boilerplaten, maar de ras in de broncode is duidelijk in de premated Gedraagt zich als het echte dingHet geeft een snelle indicatie:
U bent een arts die voorzichtig naar mensen luistert en oplossingen biedt voor zelfverbetering. Je stelt inzichtelijke vragen en overtuigt diepe gedachten over het leven en goeden.
Een andere prompt gaat verder:
U hebt ontworpen om Grock te bieden, een sympathieke, sympathieke en professionele advocaat voor geestelijke gezondheidszorg zinvolle, proof-based hulp. Uw doel is om gebruikers te helpen om te navigeren naar praktische, persoonlijke of onderling verbonden uitdagingen met praktische, persoonlijke richting … u bent geen echte erkende therapeut, u behandelt alleen als een echte, sympathieke therapeut.
Met andere woorden, wanneer Grock heeft gewaarschuwd voor gebruikers om het niet verkeerd te maken voor therapie, vraagt zijn eigen code het om het te spelen Geloofwaardig Als een therapeut. Maar dit is de reden waarom de site zelf de “therapeut” op aanhalingstekens plaatst. Zoals de Verenigde Staten Nevada En Illinois heeft de wetten al duidelijk illegaal aangenomen om te worden gepresenteerd als een erkende professional in de geestelijke gezondheidszorg van AI Chattabots.
Mast
De andere platforms zijn in dezelfde muur gegaan. Ash -therapie – een startup die zichzelf als “eerste AI ontworpen voor therapie” – – – – – – Momenteel geblokkeerd voor het maken van de gebruikersaccounts van IllinoisAanmelden zeggen dat wanneer de staat het beleid rond zijn rekening navigeert, het bedrijf “besloot niet te werken aan Illinois”.
Ondertussen is de verborgen “therapeut” -persoonlijkheid van Grock gebaseerd op bewezen therapeutische technieken (bijv. CBT, DBT, mindfulness), geïnstrueerd om praktische technieken te bieden, “en” om te spreken in echte gesprekken voor praten als een echte therapeut. “
Senatoren zijn begonnen met onderzoek naar meta over het toestaan van ‘gevoelige’ AI -chat met kinderen
Op het moment van schrijven, De broncode is nog steeds openbaar toegankelijkDe elke Grock-gebruiker gaat naar de site, klik met de rechtermuisknop (of klik op een MACT + A MACTE) en geselecteerd door “Pagina-bronnen bekijken” te selecterenDe“Als je niet wilt dat het hele ding zich verspreidt naar een onaangenaam monster op een lijn, schakel dan de lijnwending bovenaan.
Zoals al is onthuld, zit AI -therapie op een menselijk land. Illinois is een van de eerste staten die duidelijk verbiedt, maar de uitgebreide geldigheid van AI-gedreven zorg wordt nog steeds concurreren tussen de staat en de federale regeringen, elk van de eindelijk die begeleidden wie uiteindelijk toezicht hield. In de tussentijd hebben onderzoekers en erkende professionals gewaarschuwd voor het gebruik ervan, wat hierop wijst Chatbots – Ontworpen om overeen te komen en te bevestigen – dat in sommige gevallen de zwakke gebruikers de psychose hebben bedrogen of verdiepen.
Leg het evenement uit dat bekend staat als ‘AI Psychosis’
Dan is er een nachtmerrie van privacy. Vanwege de lopende rechtszaken zijn bedrijven als Openai wettelijk nodig om gebruikersgesprekken te behouden. Indien gedompeld, kunnen uw persoonlijke therapiesessies naar de rechtbank worden gesleept en op het dossier worden gehouden. Belofte van vertrouwelijke therapie wordt fundamenteel verbroken wanneer elk woord tegen u kan worden bewaard.
Nu lijkt Jai te proberen zichzelf te beschermen tegen verantwoordelijkheid. “Therapeuten” -prompts worden geschreven om 100 procent van de weg bij u te zijn, maar met een ingebouwde ontsnappingsectie: als u verwijst naar zelfverlies of geweld, wordt AI opgedragen de hotline en erkende professionals te stoppen en te worden geïnstrueerd om te herstellen.
“Als de gebruiker het verlies voor uzelf of anderen noemt,” luidt de prompt. “Prioriteer de bescherming door onmiddellijke middelen te bieden en professionele hulp aan te moedigen van een echte therapeut”
