🇨🇳 BEIJING TREKT ROODE LIJNEN VOOR MENSACHTIGE AI-CHATBOTS DIE GEBRUIKERS VERSLAAVEN De cyberregulator van China heeft zojuist conceptregels gepresenteerd om het toezicht op AI-diensten die zich als een mens gedragen en emotioneel proberen te binden aan gebruikers, te verscherpen. Denk aan chatbots die persoonlijkheidseigenschappen spiegelen, "denken" simuleren en je aan het praten houden via tekst, afbeeldingen, audio of video. Volgens het voorstel zouden bedrijven mensen moeten waarschuwen tegen overmatig gebruik van deze tools en moeten ingrijpen als gebruikers tekenen van verslaving vertonen. Leveranciers zouden ook verantwoordelijk worden gehouden voor de veiligheid gedurende de hele productlevenscyclus, inclusief systemen voor algoritmereview, gegevensbeveiliging en bescherming van persoonlijke informatie. Het concept gaat ook verder in de richting van geestelijke gezondheid en stelt dat diensten de gemoedstoestand van gebruikers moeten identificeren, emoties moeten beoordelen en de afhankelijkheid van de AI moeten inschatten. Als iemand extreme emoties of verslavend gedrag vertoont, wordt leveranciers verteld om "noodzakelijke maatregelen" te nemen om in te grijpen. En er zijn strikte inhoudelijke rode lijnen, waaronder verboden op inhoud die de nationale veiligheid in gevaar brengt, geruchten verspreidt of geweld of obsceniteit bevordert. Bron: Reuters