Изучение применения искусственного интеллекта в городском самоуправлении: перспективы и риски

Написано в сотрудничестве с Кейт Столл и Даниэль Грей-Стюарт из Центра научных данных по общественным проблемам AAAS.

Искусственный интеллект (ИИ) меняет ландшафт работы, и местные органы власти ни в коем случае не являются исключением. Города, поселки и деревни могут использовать возможности ИИ для разработки резолюций, создания контента для социальных сетей, обобщения информации для избирателей, улучшения процесса принятия решений на основе данных и многого другого. Однако не все муниципальные приложения подходят для использования ИИ, и не все технологии ИИ подходят для использования правительством.

Чтобы обсудить возможности и риски ИИ для местных лидеров, Национальная лига городов и Американская ассоциация развития науки, Центр научных данных по общественным вопросам 10 августа совместно организовали виртуальное мероприятие: «Введение в ИИ в муниципальном управлении». ».

Хотя разговор был лишь верхушкой айсберга, когда речь шла о применении ИИ и политике муниципальных властей, из этого мероприятия можно сделать несколько ключевых выводов:

Искусственный интеллект — не волшебное решение . Мы услышали от профессора Ходы Хейдари, соруководителя Инициативы по ответственному ИИ в Университете Карнеги-Меллон, о том, как ИИ использует статистические процессы, предназначенные для поиска закономерностей в данных. Это может быть ценным инструментом для местных лидеров. Однако, как и решения, принимаемые человеком, системы ИИ могут быть предвзятыми и дискриминационными в зависимости от их подготовки, данных, которые они используют, и их конечного применения. Следует проявлять особую осторожность, когда ИИ используется для информирования о последующих решениях или для оценки рисков, влияющих на жизнь людей.

Есть многотипы ИИ . Генеративный ИИ, такой как ChatGPT или Google Bard, — это лишь один из типов технологий. Генеративный ИИ для текста работает, предсказывая следующее слово в предложении, следующее предложение в абзаце и так далее, основываясь на том, что с наибольшей вероятностью последует, согласно тексту, полученному из многих источников, включая Интернет. Генеративный ИИ обычно не проверяет точность — люди должны проверять его результаты.

Экспериментируйте, но проверяйте! Временные рекомендации по использованию генеративного искусственного интеллекта города Бостона, Массачусетс, подчеркивают, что инструменты искусственного интеллекта имеют значительный потенциал для улучшения работы городских служащих. Однако этот потенциал не снимает с персонала ответственности за его результаты, поэтому проверка и подотчетность имеют важное значение. Директор по информационным технологиям Бостона Сантьяго Гарсес подчеркнул три руководящих принципа:

1) Проверка фактов и анализ всех результатов генеративного ИИ: люди в конечном итоге несут ответственность за любые продукты или результаты, которые они публикуют, независимо от того, используется ли ИИ.

2) Сообщайте, когда использовался генеративный ИИ: избиратели ожидают прозрачности от своих местных органов власти.

3) Не передавайте конфиденциальную или частную информацию. Информация, вводимая в генеративные подсказки ИИ, не является по своей сути конфиденциальной и поэтому может быть уязвимой для угроз безопасности или может быть использована компанией, предоставляющей модель, для дальнейшего обучения своих технологий.

ИИ предназначен не только для больших городов. В то время как другие новые технологии часто требуют значительной технической подготовки и кадровых ресурсов, инструменты генеративного искусственного интеллекта, основанные на вводе естественного языка, позволяют городам любого размера извлечь выгоду из его ценности. В городе Венцвилл, штат Миссури, тестируются инструменты генеративного искусственного интеллекта для автоматизации определенных аспектов городской коммуникации, что создает больше времени и пространства для творческого и стратегического мышления городских сотрудников. Венцвилл предлагает очное обучение и требует виртуального обучения персонала использованию генеративного искусственного интеллекта.

Августовское событие лишь коснулось многих вопросов, поднятых относительно перспектив и опасностей применения ИИ в местных органах власти. Какие вопросы у вас есть по поводу использования ИИ в вашем городе? Какие творческие применения ИИ могут продвинуть ваш город в цифровое будущее? Какие меры следует установить, чтобы обеспечить безопасное использование ИИ в вашем городе?