Қалалық чат-бот кәсіпкерлерге заңсыз кеңес береді: Адамс мұның дұрыс екенін айтады

Нью-Йорк қаласының мэрі Эрик Адамс қаланың жаңа жасанды интеллект чат-ботын қорғайды. Сәйкес CTV жаңалықтары, соңғы күндері ол бизнес иелеріне қате жауаптар мен қауіпті кеңестер тарата бастады, олар орындалса, заңды бұзуға әкелуі мүмкін.

Қазан айында 2023 MyCity чатботы пилоттық жоба ретінде іске қосылды, ол бизнес иелерін «әрекет ететін және сенімді ақпаратпен» қамтамасыз етуге бағытталған алғашқы қалалық AI технологиясы ретінде танымал болды. Сізге тек онлайн-порталда сұрау салу қажет.

Іске қосылғаннан кейін бес ай өткен соң, бот беделді болып көрінгенімен, оның тұрғын үй саясаты, жұмысшылардың құқықтары мен бизнес ережелері туралы ақпараты ең жақсы жағдайда толық емес және ең нашар жағдайда «қауіпті түрде дәл емес» екені анық.

«Кейбір орындар қателіктер жіберіп жатыр, және біз оны түзетуіміз керек», - деді Адамс бұл пилоттық бағдарлама екенін атап. «Технологияны пайдаланған кезде, кез келген кемшіліктерді табу және жою үшін оны нақты ортада енгізу керек».

Технология фанаты

Адамс әрқашан дәлелденбеген технологияны қалаға әкелудің күшті жақтаушысы болды, оптимизм әрқашан жоққа шығарылмайды. Өткен жылы ол оны Таймс-сквер метро станциясына орналастырды. үлкен робот пішіні анық емес жұмыртқа тәрізді, ол полицияға қылмысты тоқтатуға көмектеседі деп үміттенді. Бес айдан кейін ол қызметінен босатылды, ал жолаушылар оның ешқашан ештеңе жасамағанын және тіпті баспалдақты пайдалана алмайтынын атап өтті.

Тақырып бойынша: Нью-Йорк жолдарында автоматтандырылған роботоаксис пайда болады

Чат-бот әлі де желіде және мезгіл-мезгіл дұрыс емес жауаптар беруді жалғастырады. Оның айтуынша, дүкен иелері 2020 жылы қабылданған нәрсені ұмытып кеткен сияқты, қолма-қол ақшасыз төлемдерге еркін ауыса алады. заң, бұл дүкендерге қолма-қол ақшаны қабылдаудан бас тартуға тыйым салады. Ол әлі күнге дейін қаладағы ең төменгі жалақы сағатына 15 долларды құрайды деп санайды, дегенмен 2024 жылдан бастап ол 16 долларға дейін өсті.

Microsoft корпорациясының Azure AI қызметінде жұмыс істейтін чат-бот генеративті AI платформалары деп аталатын ортақ мәселелерге байланысты өз жолын жоғалтқан сияқты. Ол, ChatGPT сияқты, кейде ақпаратты немесе шағымдарды 1000% сенімділікпен жасайды.

Қатемен жұмыс

Майкрософт ақауларға не себеп болғанын айтудан бас тартты, бірақ оларды түзету үшін қаламен жұмыс істейтінін айтты. Қалалық Технологиялар және инновациялар басқармасы мәлімдемеде «келесі аптаның басында біз дәл емес жауаптардың санын айтарлықтай азайтамыз деп күтеміз» деп мәлімдеді. Қателерге не себеп болды және оларды қалай түзетуге болады деген сұрақтарға Microsoft та, әкімдік те жауап берген жоқ.

Қала MyCity чатбот веб-сайтындағы ескертулерді жаңартты және «оның жауаптары кейде дәл емес немесе толық болмауы мүмкін» деп атап өтті. Олар бизнестен «оның жауаптарын заңды немесе кәсіби кеңес ретінде пайдаланбауды» сұрады.

Мыңдаған мейрамхана иелерін жақтайтын NYC Hospitality Allianc директоры Эндрю Риггидің айтуынша, ол және басқа кәсіпкерлер чатботтың жауаптарына таң қалды.

«Мен қаланың бизнеске көмектесу үшін жасанды интеллектті қолдану әрекетін құптаймын, бірақ ол жұмыс істеуі керек», - деді ол. Бірақ Риггидің айтуынша, боттың кейбір ұсыныстарын орындау ауыр заңды зардаптарға әкелуі мүмкін. «Егер мен сұрақ қойып, жауаптың дұрыс екенін білу үшін адвокаттарыма хабарлассам, бұл жаңашылдықтың барлық мақсатын бұзады».