Извршниот директор Сем Алтман вели дека Опен АИ може да биде поактивен и да крева тревога за младите корисници за кои ќе утврди дека сериозно размислуваат на самоубиство. Јазичниот модел со вештачка интелигенција, кој го користат околу 700 милиони луѓе низ светот, би можел автоматски да испраќа предупредување до властите во итни случаи.
Помладите корисници многу често го користат ЧетГПТ како личен психолог, на кој му ги доверуваат тајните и интимните мисли и бараат совети како да ги решат проблемите.Ж
Многу е разумно да ги повикаме властите во случаи кога млади луѓе сериозно зборуваат за самоубиство, а не можеме да стапиме во контакт со родителите, изјави Алтман гостувајќи на подкастот на Такер Карлсон.
Алтман не објасни кои власти би биле повикани и дали за помош на корисникот би биле споделени неговиот телефонски број или адреса.
Тој го бранеше Опен АИ од обвинувањата од семејството на Адам Рејн дека 16-годишникот од Калифорнија во април годинава решил да си го одземе животот откако со месеци бил охрабруван на тоа од ЧетГПТ. Ботот, според тужбата, му објаснувал на момчето дали методот на самоубиство би бил ефикасен и му понудил помош при пишување на прошталното писмо до своите родители. По смртта на Рејн компанијата објави дека ќе инсталира посилни заштитни огради за „чувствителна содржина и ризично однесување“ за корисници помлади од 18 години и ќе воведе контроли за да им овозможи на родителите поголем увид и во начинот на кој нивните деца го користат ботот.