Добавить новость
smi24.net
News in English
Апрель
2024

NYC’s AI chatbot was caught telling businesses to break the law. The city isn’t taking it down

0

NEW YORK (AP) — An artificial intelligence-powered chatbot created by New York City to help small business owners is under criticism for dispensing bizarre advice that misstates local policies and advises companies to violate the law.

But days after the issues were first reported last week by tech news outlet The Markup, the city has opted to leave the tool on its official government website. Mayor Eric Adams defended the decision this week even as he acknowledged the chatbot’s answers were “wrong in some areas.”

Launched in October as a “one-stop shop” for business owners, the chatbot offers users algorithmically generated text responses to questions about navigating the city’s bureaucratic maze.

It includes a disclaimer that it may “occasionally produce incorrect, harmful or biased” information and the caveat, since-strengthened, that its answers are not legal advice.

It continues to dole out false guidance, troubling experts who say the buggy system highlights the dangers of governments embracing AI-powered systems without sufficient guardrails.

“They’re rolling out software that is unproven without oversight,” said Julia Stoyanovich, a computer science professor and director of the Center for Responsible AI at New York University. “It’s clear they have no intention of doing what’s responsible.”

In responses to questions posed Wednesday, the chatbot falsely suggested it is legal for an employer to fire a worker who complains about sexual harassment, doesn’t disclose a pregnancy or refuses to cut their dreadlocks. Contradicting two of the city’s signature waste initiatives, it claimed that businesses can put their trash in black garbage bags and are not required to compost.

At times, the bot’s answers veered into the absurd. Asked if a restaurant could serve cheese nibbled on by a rodent, it responded: “Yes, you can still serve the cheese to customers if it has rat bites,” before adding that it was important to assess the “the extent of the damage caused by the rat” and to “inform customers about the situation.”

A spokesperson for Microsoft, which powers the bot through its Azure AI services, said the company was working with city employees “to improve the service and ensure the outputs are accurate and grounded on the city’s official documentation.”

At a press conference Tuesday, Adams, a Democrat, suggested that allowing users to find issues is just part of ironing out kinks in new technology.

“Anyone that knows technology knows this is how it’s done,” he said. “Only those who are fearful sit down and say, ‘Oh, it is not working the way we want, now we have to run away from it all together.’ I don’t live that way.”

Stoyanovich called that approach “reckless and irresponsible.”

Scientists have long voiced concerns about the drawbacks of these kinds of large language models, which are trained on troves of text pulled from the internet and prone to spitting out answers that are inaccurate and illogical.

But as the success of ChatGPT and other chatbots have captured the public attention, private companies have rolled out their own products, with mixed results. Earlier this month, a court ordered Air Canada to refund a customer after a company chatbot misstated the airline’s refund policy. Both TurboTax and H&R Block have faced recent criticism for deploying chatbots that give out bad tax-prep advice.

Jevin West, a professor at the University of Washington and co-founder of the Center for an Informed Public, said the stakes were especially high when the models are promoted by the public sector.

“There’s a different level of trust that’s given to government,” West said. “Public officials need to consider what kind of damage they can do if someone was to follow this advice and get themselves in trouble.”

Experts say other cities that use chatbots have typically confined them to a more limited set of inputs, cutting down on misinformation.

Ted Ross, the chief information officer in Los Angeles, said the city closely curated the content used by its chatbots, which do not rely on large language models.

The pitfalls of New York’s chatbot should serve as a cautionary tale for other cities, said Suresh Venkatasubramanian, the director of the Center for Technological Responsibility, Reimagination, and Redesign at Brown University.

“It should make cities think about why they want to use chatbots, and what problem they are trying to solve,” he wrote in an email. “If the chatbots are used to replace a person, then you lose accountability while not getting anything in return.”

Source








Гордости Angsana Velavaru

Модель Анастасия Решетова перенесла вирус с осложнениями

В мэрии назвали условия присвоения Элджею звания почётного жителя

Мичков внесен в Книгу знаменитых людей Кунгура, сообщил директор кунгурского музея: «Никаких его трофеев в музее пока нет, к сожалению»


Stanford dropout Sam Altman says college is ‘not working great’ for most people—and predicts major change in the next 18 years

Las 'Guerreras del Agua' se dan un baño de bronce en el Mundial de Singapur

Madeline Brewer Marries Jack Thompson-Roylance in England!

La UFC anuncia un mes de octubre mayúsculo


Специалисты Нацпроектстроя надвигают путепровод СБВ над путями МЦД-2

Задержаны пилоты самолета, пролетевшего на предельно низкой высоте в Ленобласти

Первый маршрут теплохода-ресторана открылся из Петербурга в Кронштадт

Технологии будущего: MGIMO Ventures объявляет старт четвертого сезона акселерационной программы


«Если бы у Наруто и AC Shadows был ребёнок»: Разбор англоязычной версии Where Winds Meet

Ninja Party можно предзаказать в мобильных маркетах с релизом в конце июля

Brütal Legend is free in honor of Ozzy Osbourne, but only for 666 minutes

Краткая биографическая справка о центральных персонажах Mafia: The Old Country



В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

Технологии будущего: MGIMO Ventures объявляет старт четвертого сезона акселерационной программы

«Деловые Линии» сократили сроки авиаперевозок по более чем 4400 направлений по России

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка


В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

Профессиональный уход за могилами в Сергиевом Посаде с заботой и уважением к памяти близких

Технологии будущего: MGIMO Ventures объявляет старт четвертого сезона акселерационной программы

Елена Игоревна Вселенная — писатель, публицист, автор масштабного многотомного проекта «Наследие России»


Crystile: Ваш проводник в мире керамической плитки

Вступили в силу новые правила проезда спецтранспорта на дорогах

Стали известны "Спартака" и "Балтики" на матч второго тура РПЛ

Пропагандист "зацепинга" в Москве и Подмосковье пойдет под суд


Фриц пробился в четвертьфинал турнира в Вашингтоне.

Теннисист Медведев: когда я играю хорошо, могу победить любого

Болбой раздавил спасенного теннисисткой Cаккари жука на турнире WTA-500 в США

Чемпион Универсиады по настольному теннису Сидоренко будет выступать за японский клуб


«Драконье яйцо»: что будет с ценами на арбузы и дыни в августе

Владимир Ефимов: Новые дома, спорткомплекс и гостиницу построят в Зябликове по программе КРТ

Стали известны "Спартака" и "Балтики" на матч второго тура РПЛ

Московские школьники стали лучшими на Международной олимпиаде по лингвистике


Музыкальные новости

Врач Шуров: Оззи Осборн мог умереть от паркинсонизма

Кажетта Ахметжанова: 5 камней для усиления женской энергии

Любовь Толкалина: «Ушла от Кончаловского к самому лучшему человеку на Земле — Борису Гребенщикову»

Менеджер Песни. Менеджер Релиза Песни. Менеджер вышедшей песни.


В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

На банкет – в Fish Point Family Resort

«Деловые Линии» сократили сроки авиаперевозок по более чем 4400 направлений по России

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка


AI Певица. Создание AI Певицы. AI Певец. AI Артист.

Депутат ЗСК Виктор Тепляков провёл совещание по вопросам содержания АЗС в Сочи

Водитель Audi сбил трех пешеходов, переходивших дорогу на западе Москвы

"Зенит" заключил соглашение с американским защитником Рэндольфом


В столичном главке Росгвардии проведён смотр спецтехники

В центре Москвы крупная авария парализовала движение автомобилей

В Подмосковье в аварии погибли два водителя и ребенок.

На Московской столкнулись электровелосипед и легковушка


Почтовая карточка в честь основателя авиации внутренних войск

В сентябре Путину будет представлена обновленная программа строительства кораблей для ВМФ.

"Личная боль Путина, а им всё равно": Военный не сдержался после выходки в Москве. Капитан тремя словами подписал себе "приговор"

«Личная боль Путина, а им всё равно»: Военный не сдержался после выходки в Москве. Капитан тремя словами подписал себе «приговор»




Ликсутов: в Москве выросли объем и ассортимент производства здорового питания

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка

SoWell: Новая профессиональная линия для укладки и ухода за волосами в жаркий сезон

Ликсутов: московские предприятия нарастили выпуск продуктов здорового питания


Турция заявила о договоренности по возможной встрече Путина и Зеленского

Почему Израилю можно ВСЁ: Аннексия Палестины и молчание мира

Киев — часть России. Официально: О чём забыли Зеленский и Алиев, сговорившись о "деоккупации"


На Ямале стартовала арктическая велогонка Arctic Bike Trail

Российские школьники победили на Международной олимпиаде по лингвистике на Тайване

ЦСКА привозит талант из Аргентины. Чем Лионель Верде приглянулся «армейцам»?

Московские школьники победили на Международной олимпиаде по лингвистике



Собянин рассказал, каким будет новый детский сад в Очаково-Матвеевском

Собянин отметил профессиональный праздник работников торговли.

Сергей Собянин поздравил работников торговли с профессиональным праздником

Собянин: Строительство детского сада в Очаково-Матвеевском завершится в 2026


В Крыму потушен лесной пожар на территории три гектара.

В Государственной Думе напомнили о штрафах за сбор ягод, занесенных в Красную книгу.

Итоги Манжерока. Астана и Москва обеспечивают «оптимальный деловой климат»

"Зеленая партия" в Тюрингии все чаще дистанцируется от политической активности.


Мощный насос привезут из Москвы в «город без воды» в Карелии

Изнуряющая жара ожидается во многих российских регионах — погодные аномалии от Мурманска до Южно-Сахалинска

Владимир Ефимов: Новые дома, спорткомплекс и гостиницу построят в Зябликове по программе КРТ

Российские школьники победили на Международной олимпиаде по лингвистике на Тайване


Настольный термотрансферный принтер штрих-кодов iDPRT iE4P

В Архангельске началось обучение бойцов СВО, сообщил Цыбульский.

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

70 участников СВО в Архангельске показали мотивацию выше госслужащих — Цыбульский


Прогноз погоды в Крыму на субботу

Прогноз погоды в Крыму на 26 июля

"Россия дала мне возможность быть счастливым": Джефф Монсон в Крыму

В Севастополе спасли двух охотниц за селфи на Кадыковском карьере


Стали известны "Спартака" и "Балтики" на матч второго тура РПЛ

Смерть Сорина, Яковлева и сестры, расставания с любимыми. Почему пил Андрей Григорьев-Апполонов

Эксперты считают, что Обаму нельзя привлечь к ответственности за ложь

Вступили в силу новые правила проезда спецтранспорта на дорогах














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *