ქალაქის ჩატბოტი მეწარმეებს არალეგალურ რჩევებს აძლევს: ადამსი ამბობს, რომ არაუშავს

ნიუ-იორკის მერი ერიკ ადამსი იცავს ქალაქის ახალ ხელოვნური ინტელექტის ჩატბოტს. Მიხედვით CTV ახალი ამბები, ბოლო დღეებში მან დაიწყო არასწორი პასუხებისა და სახიფათო რჩევების გაცემა ბიზნესის მფლობელებისთვის, რამაც შეიძლება კანონის დარღვევა გამოიწვიოს.

ოქტომბერში ჩეთბოტი MyCity საპილოტე პროექტით დაწყებული, იგი რეკლამირებული იყო, როგორც პირველი AI ტექნოლოგია მთელი ქალაქის მასშტაბით, რომელიც მიზნად ისახავს ბიზნესის მფლობელებს მიაწოდოს „მოქმედი და სანდო ინფორმაცია“. თქვენ უბრალოდ უნდა გააკეთოთ მოთხოვნა ონლაინ პორტალზე.

მისი გაშვებიდან ხუთი თვის შემდეგ, ნათელია, რომ მიუხედავად იმისა, რომ ბოტი ავტორიტეტულია, ინფორმაცია, რომელსაც ის გვაწვდის საბინაო პოლიტიკაზე, მუშაკთა უფლებებსა და ბიზნეს რეგულაციებზე საუკეთესო შემთხვევაში არასრულია და უარეს შემთხვევაში "საშიშად არაზუსტი".

”ზოგიერთი ადგილი უშვებს შეცდომებს და ჩვენ უნდა გამოვასწოროთ ეს”, - თქვა ადამსმა და ხაზგასმით აღნიშნა, რომ ეს იყო საპილოტე პროგრამა. ”როდესაც იყენებთ ტექნოლოგიას, თქვენ უნდა განახორციელოთ იგი რეალურ გარემოში, რათა იპოვოთ და აღმოფხვრას ნებისმიერი ხარვეზი.”

ტექნოლოგიის ფანატიკოსი

ადამსი ყოველთვის იყო დაუდასტურებელი ტექნოლოგიების ქალაქში შემოტანის ძლიერი ადვოკატი, ოპტიმიზმით, რომელიც ყოველთვის არ არსებობდა. გასულ წელს მან ის მეტრო სადგურ Times Square-ში განათავსა. უზარმაზარი რობოტი ბუნდოვნად კვერცხისებრი ფორმა, რაც მას იმედი ჰქონდა, რომ პოლიციას დაეხმარებოდა დანაშაულის აღკვეთაში. დაახლოებით ხუთი თვის შემდეგ მან გაათავისუფლესდა მგზავრებმა აღნიშნეს, რომ მას არასდროს არაფერი გაუკეთებია და ვერც კიბეებს ხმარობდა.

On სათაური: ნიუ-იორკის გზებზე ავტომატური რობოტაქსი გამოჩნდება

ჩატბოტი კვლავ ონლაინ რეჟიმშია და აგრძელებს პერიოდულად არასწორი პასუხების გაცემას. მისი თქმით, მაღაზიის მფლობელებს შეუძლიათ თავისუფლად გადავიდნენ უნაღდო ანგარიშსწორებაზე, როგორც ჩანს, დაივიწყეს ის, რაც მიიღეს 2020 წელს. კანონი, რომელიც კრძალავს მაღაზიებს უარი თქვან ნაღდი ფულის მიღებაზე. მას მაინც სჯერა, რომ ქალაქში მინიმალური ხელფასი საათში 15 დოლარია, თუმცა 2024 წლიდან ეს იქნება გაიზარდა 16 დოლარამდე.

ჩეთბოტმა, რომელიც მუშაობს Microsoft-ის Azure AI სერვისზე, როგორც ჩანს, გზა დაკარგა ეგრეთ წოდებული გენერაციული AI პლატფორმებისთვის საერთო პრობლემების გამო. ის, ისევე როგორც ChatGPT, ზოგჯერ ქმნის ინფორმაციას ან პრეტენზიებს 1000% დარწმუნებით.

ზოგიერთი შეცდომები

მაიკროსოფტმა უარი თქვა იმის თქმაზე, თუ რამ გამოიწვია პრობლემები, მაგრამ განაცხადა, რომ ისინი მუშაობენ ქალაქთან მათ გამოსასწორებლად. ქალაქის ტექნოლოგიებისა და ინოვაციების ოფისის განცხადებაში ნათქვამია, რომ „მომავალ კვირაში ჩვენ ველით, რომ მნიშვნელოვნად შევამცირებთ არაზუსტი პასუხების რაოდენობას“. არც მაიკროსოფტმა და არც მერიამ არ უპასუხეს კითხვებს, რამ გამოიწვია შეცდომები და როგორ შეიძლება მათი გამოსწორება.

ქალაქმა განაახლა გაფრთხილებები MyCity chatbot-ის ვებსაიტზე და აღნიშნა, რომ „მისი პასუხები შეიძლება ზოგჯერ იყოს არაზუსტი ან არასრული“. მათ სთხოვეს ბიზნესს, „არ გამოიყენონ მისი პასუხები იურიდიულ ან პროფესიულ რჩევად“.

ენდრიუ რიგიმ, NYC Hospitality Allinc-ის დირექტორმა, რომელიც მხარს უჭერს ათასობით რესტორნის მფლობელს, თქვა, რომ ის და სხვა მეწარმეები გაოცებულები არიან ჩეთბოტის პასუხებით.

”მე მივესალმები ქალაქის მცდელობას გამოიყენოს ხელოვნური ინტელექტი ბიზნესის დასახმარებლად, მაგრამ მან უნდა იმუშაოს,” - ხაზგასმით აღნიშნა მან. მაგრამ რიგის თქმით, ბოტის ზოგიერთი რეკომენდაციის დაცვამ შეიძლება გამოიწვიოს სერიოზული სამართლებრივი შედეგები. ”თუ მე დავსვამ კითხვას და შემდეგ მომიწევს დავუკავშირდე ჩემს ადვოკატებს, რათა გაირკვეს, არის თუ არა პასუხი სწორი, მაშინ ეს ამარცხებს ამ ინოვაციის მთელ მიზანს.”