Քաղաքային չաթբոտը ձեռնարկատերերին անօրինական խորհուրդներ է տալիս. Ադամսն ասում է, որ դա լավ է

Նյու Յորքի քաղաքապետ Էրիկ Ադամսը պաշտպանում է քաղաքի արհեստական ​​ինտելեկտի նոր չաթբոտը։ Համաձայն Հրեշտակ Նորություններ, վերջին օրերին նա սկսել է սխալ պատասխաններ և վտանգավոր խորհուրդներ տալ բիզնեսի սեփականատերերին, որոնք կարող են հանգեցնել օրենքի խախտման, եթե դրանք պահպանվեն:

Հոկտեմբերին 2023- ը chatbot MyCity Գործարկվելով որպես փորձնական նախագիծ, այն հայտարարվեց որպես առաջին համաքաղաքային AI տեխնոլոգիան, որը նպատակ ունի բիզնեսի սեփականատերերին տրամադրել «գործուն և հուսալի տեղեկատվություն»: Դուք պարզապես պետք է հարցում կատարեք առցանց պորտալում:

Գործարկումից հինգ ամիս անց պարզ է, որ թեև բոտը հեղինակավոր է թվում, բնակարանային քաղաքականության, աշխատողների իրավունքների և բիզնեսի կանոնակարգերի վերաբերյալ նրա տրամադրած տեղեկատվությունը լավագույն դեպքում թերի է, իսկ վատագույն դեպքում՝ «վտանգավոր անճշտություն»:

«Որոշ վայրեր սխալներ են թույլ տալիս, և մենք պետք է շտկենք դա», - ասաց Ադամսը ՝ ընդգծելով, որ սա փորձնական ծրագիր էր: «Երբ դուք օգտագործում եք տեխնոլոգիա, դուք պետք է այն իրականացնեք իրական միջավայրում՝ ցանկացած թերություն գտնելու և վերացնելու համար»:

Տեխնոլոգիայի ֆանատիկոս

Ադամսը միշտ ուժեղ պաշտպան է եղել չապացուցված տեխնոլոգիաները քաղաք բերելու համար՝ լավատեսությամբ, որը միշտ չէ, որ դրսևորվել է: Անցյալ տարի նա այն տեղադրեց մետրոյի Times Square կայարանում։ հսկայական ռոբոտ անորոշ ձվաձև ձևով, որը նա հույս ուներ, որ կօգնի ոստիկանությանը զսպել հանցագործությունը: Մոտ հինգ ամիս հետո նա պաշտոնանկ արված, իսկ ուղեւորները նշել են, որ նա երբեք ոչինչ չի արել և չի կարող նույնիսկ աստիճաններից օգտվել։

Ին առարկայի: Ավտոմատ ռոբոտաշինություն կհայտնվի Նյու Յորքի ճանապարհներին

Չաթբոտը դեռ առցանց է և շարունակում է պարբերաբար սխալ պատասխաններ տալ։ Նա ասաց, որ խանութների սեփականատերերը կարող են ազատորեն անցնել անկանխիկ վճարումների՝ ակնհայտորեն մոռանալով այն մասին, թե ինչ է ընդունվել 2020թ. օրենքը, որն արգելում է խանութներին հրաժարվել կանխիկ գումար ընդունելուց։ Նա դեռ կարծում է, որ քաղաքում նվազագույն աշխատավարձը ժամում 15 դոլար է, թեև 2024 թվականից այն կլինի. ավելացել է մինչև 16 դոլար.

Չաթբոտը, որն աշխատում է Microsoft-ի Azure AI ծառայության վրա, կարծես թե կորցրել է իր ճանապարհը, այսպես կոչված, գեներատիվ AI պլատֆորմներին բնորոշ խնդիրների պատճառով: Այն, ինչպես ChatGPT-ն, երբեմն ստեղծում է տեղեկատվություն կամ պնդումներ 1000% վստահությամբ:

Որոշ սխալներ

Microsoft-ը հրաժարվեց ասել, թե ինչն է առաջացրել խնդիրները, սակայն ասաց, որ աշխատում է քաղաքի հետ՝ դրանք շտկելու համար: Քաղաքի Տեխնոլոգիաների և Նորարարությունների գրասենյակի հայտարարության մեջ ասվում է, որ «հաջորդ շաբաթվա սկզբին մենք ակնկալում ենք զգալիորեն նվազեցնել ոչ ճշգրիտ պատասխանների թիվը»: Ո՛չ Microsoft-ը, ո՛չ քաղաքապետարանը չեն պատասխանել այն հարցերին, թե ինչն է առաջացրել սխալները և ինչպես կարելի է դրանք ուղղել:

Քաղաքը թարմացրել է նախազգուշացումները MyCity chatbot կայքում և նշել, որ «նրա պատասխանները երբեմն կարող են լինել ոչ ճշգրիտ կամ թերի»: Նրանք գործարարներին խնդրեցին «չօգտագործել նրա պատասխանները որպես իրավական կամ մասնագիտական ​​խորհուրդ»:

Էնդրյու Ռիգին՝ NYC Hospitality Allinc-ի տնօրենը, որը պաշտպանում է հազարավոր ռեստորանների սեփականատերերը, ասում է, որ ինքը և մյուս ձեռնարկատերերը տարակուսած են չաթբոտի պատասխաններից:

«Ես ողջունում եմ քաղաքի փորձը՝ օգտագործել արհեստական ​​ինտելեկտը բիզնեսին օգնելու համար, բայց այն պետք է աշխատի», - շեշտեց նա: Սակայն Ռիջիի խոսքով՝ բոտի որոշ առաջարկությունների կատարումը կարող է հանգեցնել լուրջ իրավական հետեւանքների։ «Եթե ես հարց տամ և հետո ստիպված լինեմ կապ հաստատել իմ իրավաբանների հետ՝ պարզելու, թե արդյոք պատասխանը ճիշտ է, դա տապալում է այս նորամուծության ողջ նպատակը»: