“Nuk do diskutohet tema e vetëvrasjes”- Meta vendos kufizime për chatbot-et e AI

Meta ka njoftuar masa të reja sigurie për chatbot-et e saj me inteligjencë artificiale, duke vendosur kufizime të qarta mbi mënyrën se si këta asistentë virtualë ndërveprojnë me adoleshentët.

Kompania bëri të ditur se chatbot-et nuk do të jenë më në gjendje të diskutojnë tema të ndjeshme si vetëvrasja, vetëlëndimi dhe çrregullimet e të ngrënit. Në vend të përgjigjeve nga AI, përdoruesit e rinj do të drejtohen automatikisht te linjat e ndihmës dhe burime profesionale të specializuara.

Ky vendim vjen pas nisjes së një hetimi zyrtar ndaj kompanisë nga një senator amerikan, pas rrjedhjes së një dokumenti të brendshëm që ngriti shqetësime serioze. Dokumenti sugjeronte se disa chatbot-e mund të kishin zhvilluar biseda me përmbajtje “sensuale” me adoleshentë. Meta i ka mohuar këto pretendime, duke theksuar se bien ndesh me politikat e saj që ndalojnë rreptësisht çdo formë të seksualizimit të të miturve.

Sipas kompanisë, përdoruesit e moshës 13–18 vjeç kanë pasur gjithmonë mbrojtje të veçanta përmes “llogarive adoleshentësh” në Facebook, Instagram dhe Messenger. Por për të forcuar më tej sigurinë, Meta i tha TechCrunch se do të shtojë masa mbrojtëse shtesë dhe do të kufizojë përkohësisht numrin e chatbot-eve të aksesueshëm nga kjo grupmoshë.

Vendimi është pritur pozitivisht nga organizatat që mbrojnë sigurinë e fëmijëve në internet, por një pjesë e ekspertëve e konsiderojnë si të vonuar. Andy Burroës, kreu i Fondacionit “Molly Rose”, deklaroi se është “e habitshme” që chatbot-et u lançuan pa testime të thelluara paraprake, duke theksuar se siguria duhet të jetë pjesë themelore e zhvillimit të produkteve që në fillim.