Добавить новость
smi24.net
News in English
Апрель
2024

NYC’s AI chatbot was caught telling businesses to break the law. The city isn’t taking it down

0

NEW YORK (AP) — An artificial intelligence-powered chatbot created by New York City to help small business owners is under criticism for dispensing bizarre advice that misstates local policies and advises companies to violate the law.

But days after the issues were first reported last week by tech news outlet The Markup, the city has opted to leave the tool on its official government website. Mayor Eric Adams defended the decision this week even as he acknowledged the chatbot’s answers were “wrong in some areas.”

Launched in October as a “one-stop shop” for business owners, the chatbot offers users algorithmically generated text responses to questions about navigating the city’s bureaucratic maze.

It includes a disclaimer that it may “occasionally produce incorrect, harmful or biased” information and the caveat, since-strengthened, that its answers are not legal advice.

It continues to dole out false guidance, troubling experts who say the buggy system highlights the dangers of governments embracing AI-powered systems without sufficient guardrails.

“They’re rolling out software that is unproven without oversight,” said Julia Stoyanovich, a computer science professor and director of the Center for Responsible AI at New York University. “It’s clear they have no intention of doing what’s responsible.”

In responses to questions posed Wednesday, the chatbot falsely suggested it is legal for an employer to fire a worker who complains about sexual harassment, doesn’t disclose a pregnancy or refuses to cut their dreadlocks. Contradicting two of the city’s signature waste initiatives, it claimed that businesses can put their trash in black garbage bags and are not required to compost.

At times, the bot’s answers veered into the absurd. Asked if a restaurant could serve cheese nibbled on by a rodent, it responded: “Yes, you can still serve the cheese to customers if it has rat bites,” before adding that it was important to assess the “the extent of the damage caused by the rat” and to “inform customers about the situation.”

A spokesperson for Microsoft, which powers the bot through its Azure AI services, said the company was working with city employees “to improve the service and ensure the outputs are accurate and grounded on the city’s official documentation.”

At a press conference Tuesday, Adams, a Democrat, suggested that allowing users to find issues is just part of ironing out kinks in new technology.

“Anyone that knows technology knows this is how it’s done,” he said. “Only those who are fearful sit down and say, ‘Oh, it is not working the way we want, now we have to run away from it all together.’ I don’t live that way.”

Stoyanovich called that approach “reckless and irresponsible.”

Scientists have long voiced concerns about the drawbacks of these kinds of large language models, which are trained on troves of text pulled from the internet and prone to spitting out answers that are inaccurate and illogical.

But as the success of ChatGPT and other chatbots have captured the public attention, private companies have rolled out their own products, with mixed results. Earlier this month, a court ordered Air Canada to refund a customer after a company chatbot misstated the airline’s refund policy. Both TurboTax and H&R Block have faced recent criticism for deploying chatbots that give out bad tax-prep advice.

Jevin West, a professor at the University of Washington and co-founder of the Center for an Informed Public, said the stakes were especially high when the models are promoted by the public sector.

“There’s a different level of trust that’s given to government,” West said. “Public officials need to consider what kind of damage they can do if someone was to follow this advice and get themselves in trouble.”

Experts say other cities that use chatbots have typically confined them to a more limited set of inputs, cutting down on misinformation.

Ted Ross, the chief information officer in Los Angeles, said the city closely curated the content used by its chatbots, which do not rely on large language models.

The pitfalls of New York’s chatbot should serve as a cautionary tale for other cities, said Suresh Venkatasubramanian, the director of the Center for Technological Responsibility, Reimagination, and Redesign at Brown University.

“It should make cities think about why they want to use chatbots, and what problem they are trying to solve,” he wrote in an email. “If the chatbots are used to replace a person, then you lose accountability while not getting anything in return.”

Source








Лео Канделаки и Анжелика Стубайло сыграют в новую трэвел-игру «Кто куда» на ТНТ

«А у кого нет проблем?»: Филипп Киркоров заговорил про здоровье после полученного ожога

Звезды тогда и сейчас: как выглядят самые красивые женщины Голливуда

Интересные каналы в Telegram. Лучшие каналы в Telegram.


The Best Story Of Chicago Bulls’ Offseason Just Got A Happy Ending

Why Juventus spent 111m this summer for only one new player

OpenAI warns that its new ChatGPT Agent has the ability to aid dangerous bioweapon development

The founder of Deliciously Ella started a blog when suffering from severe chronic pain. Now, her multimillion-dollar snack empire is going global


Кайрат Бермуканов поддержал Петра Яна перед боем в Абу‑Даби

В Курске погиб 36-летний мотоциклист

Пьяный курянин избил супругу и чуть не задушил её штанами из-за ревности

«Газинформсервис» подтвердил соответствие системы менеджмента качества стандартам ISO и ГОСТ


Bungie promises to fix Destiny 2's new metroid-style morph ball as it makes players sick and glitches out on ultrawide monitors

Microsoft warns of 'active attacks' on its government and business server tech, with one cybersecurity expert claiming that they should 'assume that you have been compromised'

Настройки GameHub и Winlator для игры в Prey (2017) на Android

'I destroyed months of your work in seconds' says AI coding tool after deleting a devs entire database during a code freeze: 'I panicked instead of thinking'



Студия Лебедева запустила образовательный проект, в котором заказчики сами создают свой дизайн

Летняя школа Русского дома приняла детей из Карабаха

Аудиосказки про Турбозавров теперь на Яндекс Музыке!

Кайрат Бермуканов поддержал Петра Яна перед боем в Абу‑Даби


Нам есть чем гордиться: каким будет Национальный центр «Россия» на Краснопресненской набережной

Раздвигая горы - к единству и созиданию! Манифест лезгинского народа (письменное обращение, воззвание программного характера)

Ярко вспыхнула и быстро погасла: судьба певицы Марины Журавлевой

Движение к победе: в России стартует премия «Мы верим твердо в героев спорта»


Под Тамбовом пройдёт фестиваль авторской песни "Там, под Лысой Горой"

Депутат Нилов предложил разрешить мотоциклистам движение по выделенной полосе

Знаменитый миллиардер-христианин дал неожиданный совет россиянам

Мария Шувалова. В столице Татарстана чествовали балетную диву за блистательную «Анюту»


Александрова покинула турнир в Гамбурге, не дойдя до полуфинала.

Кудерметова: раньше думала, что Сафина из Казани, её с Маратом все связывают с Татарстаном

Новак Джокович проводит 900-ю неделю в топ-10 рейтинга ATP

Мирра Андреева из России удерживает пятую позицию в рейтинге WTA.


Город продал и передал в аренду более 7,5 га земли для строительства недвижимости за полгода по итогам торгов

Лесная охрана провела свыше тысячи патрулирований в Подмосковье за неделю

Осквернивших Обелиск Славы в Феодосии подростков задержали

Молодежь Подмосковья приглашают принять участие в конкурсе к 295-летию русского полководца Александра Суворова


Музыкальные новости

Клипмейкер. Лучший Клипмейкер. Клипмейкер в Москве.

VK Fest 2025 побил рекорд по числу артистов и вошёл в Книгу рекордов России

The dairy industry would like Gen Z to drink more milk, so they made a Fortnite diner tycoon game

Расторгуев с «Конем» и новый рекорд России. Итоги VK Fest 2025


Летняя школа Русского дома приняла детей из Карабаха

Аудиосказки про Турбозавров теперь на Яндекс Музыке!

Кайрат Бермуканов поддержал Петра Яна перед боем в Абу‑Даби

Движение к победе: в России стартует премия «Мы верим твердо в героев спорта»


Чемпионат по служебно-боевой стрельбе Сибирского округа Росгвардии завершился победой кузбасских стрелков

Собянин: еще один беспилотник, летевший к Москве, ликвидирован силами ПВО

Температура морской воды на крымских пляжах, 20 июля

В новый сезон: Сегодня ФК «Оренбург» на своем поле принимает ЦСКА из Москвы


Рискнул на 100 тысяч рублей: инженер из Смоленска купил более 1,7 тысячи лотерейных билетов и выиграл автомобиль от «Национальной Лотереи» и РОЛЬФ на VK Fest

Зарядки для электромобилей «Энергия Москвы» станут платными

Москвичей предупредили о задержках наземного транспорта из-за ливня

25 июля пилотажная группа "Звезда" пролетит над пробками на шоссе под Москвой


Путин отметил победу синхрониста Мальцева на чемпионате мира в Сингапуре.

Путин отметил успехи российских школьников на математической олимпиаде.

Путин выразил соболезнования семье председателя Верховного суда Подносовой

Нам есть чем гордиться: каким будет Национальный центр «Россия» на Краснопресненской набережной




«Я на инвалидном кресле, он на «Тесле»: что случилось с блогером Мариш Мариш

Собянин: создание 5 центров женского здоровья завершат в этом году

После вспышки инфекции на теплоходе «Леонид Красин» начали расследование

Уже не крепкий орешек: как Брюс Уиллис живет с неизлечимой болезнью


В центре Киева митингуют против реформ Зеленского

«СТРАНА.ua»: Зеленский раскритиковал ЕС за непредоставление обещанной помощи


KENGURU GAMES в Звенигороде звенели на всю страну

Движение к победе: в России стартует премия «Мы верим твердо в героев спорта»

Уже 59 орловчан решили побороться за просветительскую награду «Знание. Премия»

Кайрат Бермуканов поддержал Петра Яна перед боем в Абу‑Даби


Лукашенко призвал белорусских нефтяников «не раскачиваться, а бурить и бурить»

Куда Лукашенко хочет пристроить лишних дипломатов

Посланник Трампа рассказал, как «неформально» договаривался с Лукашенко: после нескольких тостов Минск освободил политзаключенных

Юрист Трампа Коул рассказал, как пил водку с Лукашенко в Минске


Собянин: Продолжаем внедрять новый стандарт заботы о женском здоровье в одном месте

Более 800 спортивных площадок обновят и обустроят в Москве - Сергей Собянин

Собянин: Модернизация двух корпусов ГКБ имени Вересаева завершится в этом году

Собянин рассказал, как город заботится о природе при строительстве метро


Фестиваль «Сады и цветы»: как Москву превращают в городской оазис

Зарядки для электромобилей «Энергия Москвы» станут платными

Россияне рассказали, по каким критериям выбирают квартиру для покупки в 2025 году

Экономист оценил экологический и финансовый ущерб от пластиковых пакетов


История одной семьи: результаты конкурса и победители

Москвичей призвали во вторник ездить на метро из-за дождя

ЕС отменил санкции против трех японских газовозов, ...

Парк Юрия Лужкова 19 июля стал площадкой фестиваля The BOWL


Центр подготовки личного состава Северо-Западного округа Росгвардии пополнили призывники

Республика Алтай вошла в десятку регионов России по развитию ипотеки

Девочка упала при посадке на теплоход в порту Архангельска

В Башкирии ревнивец ранил жену шампуром и сдался полиции


Поезда в Крым и из Крыма следуют с задержками до пяти часов

Актуальная информация о задержке поездов в Крым и обратно

Поезда "Таврия" по-прежнему задерживаются из-за ЧП в Ростовской области

В Симферополе наградили юных крымчан за отвагу и решительность


Пост №6137249

Мобильный интернет в России стал быстрее на 12%

Депутат Нилов предложил разрешить мотоциклистам движение по выделенной полосе

«Для нас это тоже чудо»: бегун-юниор Данилов побил рекорд, установленный на Олимпиаде-1980














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *