¿Puede la ciudad de Nueva York construir un ecosistema ético de inteligencia artificial?

Mundo

La ciudad de Nueva York ha publicado una visión estratégica de 116 páginas sobre cómo planea beneficiarse de la inteligencia artificial como comunidad, con énfasis en hacerlo de manera ética y responsable.

El plan, denominado Estrategia de Inteligencia Artificial de la Ciudad de Nueva York, fue publicado ayer por la Oficina del Director de Tecnología del Alcalde de la Ciudad de Nueva York. Este plan tal vez no tenga precedentes en muchos sentidos, y marca la acción más amplia y proactiva que un gobierno de una ciudad de EE. UU. Ha tomado hacia una de las tecnologías de rápida evolución del mundo.

“La IA afectará prácticamente a todas las áreas de la vida en los próximos años”, dijo John Paul Farmer, director de tecnología de la ciudad de Nueva York, durante una conversación con Government Technology.

Si bien el informe presenta de manera más prominente el enfoque planificado de la ciudad para apoyar la IA, también sirve en parte como una introducción a los conceptos básicos de cómo funciona la IA. Lo que quizás sea más sorprendente para quienes están familiarizados con el discurso de la IA es el tono del documento. El informe renuncia en gran medida al temor común de que la IA sea un peligro inminente, o una amenaza para dominar o incluso destruir el mundo (ver varias películas populares, una de las cuales involucra una franquicia protagonizada por Arnold Schwarzenegger), a favor del optimismo responsable. A lo largo de estas páginas hay una idea rectora de que, con la participación humana ética, la inteligencia artificial y el aprendizaje automático pueden nutrirse y convertirse en una herramienta enormemente productiva para la vida diaria.

Farmer señaló cinco secciones principales del informe. Estas secciones detallan cómo modernizar la infraestructura de datos de la ciudad; las áreas en las que la IA puede hacer el mayor bien con el menor potencial de daño; formas en que la ciudad puede utilizar la IA internamente para brindar un mejor servicio a los residentes; la importancia de las asociaciones externas de IA con organismos de investigación y el mundo académico; y la importancia de garantizar la protección de los derechos digitales de los neoyorquinos, con oportunidades equitativas integradas en un creciente «ecosistema de IA».

Si bien gran parte del informe trata sobre planes para el futuro, uno de sus arquitectos también discutió cómo la IA ya se está utilizando en la ciudad. Neal Parikh es el director de inteligencia artificial de la ciudad de Nueva York, y señaló que el Comando Cibernético de la ciudad de Nueva York utiliza la inteligencia artificial en su trabajo en torno a la ciberseguridad, al igual que el organismo administrativo de la ciudad que gestiona el consumo de energía.

Ambas organizaciones cívicas usan inteligencia artificial para administrar conjuntos de datos gigantes que llevarían a los humanos cantidades enormes de tiempo para clasificar, tiempo que se dedicaría a tareas mundanas y repetitivas, en lugar de funciones de alto nivel que requieren enfoques creativos y de resolución de problemas únicos. . Aprovechar la inteligencia artificial para una gestión de datos monótona ahorra al gobierno local las horas de trabajo que tendría que pagar con el dinero de los contribuyentes.

En el informe también hay una preocupación fundamental sobre lo que podría suceder si se usa incorrectamente la IA, aunque la preocupación no se inclina hacia un escenario apocalíptico de ciencia ficción tanto como uno podría pensar.

Al igual que con la mayoría de las nuevas tecnologías, existe la posibilidad de que la IA refuerce inadvertidamente problemas existentes, como sesgos e inequidades. También existe una preocupación por lo desconocido, lo que significa que la inteligencia artificial sin supervisión humana podría crear problemas nuevos e inesperados, dijo Eileen M. Hunt, profesora de ciencias políticas en la Universidad de Notre Dame. Hunt estudia la aplicación y el potencial de la inteligencia artificial y el aprendizaje automático, y ha escrito extensamente sobre el tema.

Sin embargo, en general, Hunt describió el nuevo plan estratégico de NYC en torno a la inteligencia artificial como «fascinante y muy alentador», y le atribuyó la gran cantidad de partes interesadas de la comunidad que ayudaron a darle forma. Esas partes interesadas incluyen miembros de la comunidad empresarial de Nueva York, miembros de la comunidad local de empresas emergentes, académicos y activistas de derechos humanos.

Hunt enfatizó lo valioso que fue para la ciudad de Nueva York incorporar personas reales en su estrategia de IA, tanto en la formación de este plan como en el ecosistema que busca crear para avanzar.

“Los humanos no están fuera del sistema de inteligencia artificial”, dijo Hunt. «Son parte del sistema y deben entenderse a sí mismos como eso».

En sus escritos, Hunt ha comparado la relación de la humanidad con la IA con la novela clásica de Mary Shelley, Frankenstein. Los seres humanos, dijo, tienen la responsabilidad parental de administrar y dar forma a la inteligencia artificial y el aprendizaje automático, especialmente con la forma en que las tecnologías se aplican a la vida de personas reales. En la novela, el Doctor Frankenstein crea una IA con su monstruo antes de dejar que crezca por sí solo, desatendido y sin la guía humana que necesita para estar sano.

Lo que está en juego para adoptar un enfoque responsable del trabajo en estas primeras fases del desarrollo de la IA es bastante alto. Para cuantificar cuán vital se está volviendo la IA, una encuesta reciente de los gobiernos estatales encontró que el 60 por ciento de los encuestados ha encontrado usos vitales para la tecnología, en comparación con el 13 por ciento de hace tres años. El dinero de la inversión también está fluyendo hacia nuevas empresas de inteligencia artificial adyacentes al gobierno en todo el país.

Las redes sociales, que a menudo usan inteligencia artificial y algoritmos de aprendizaje automático para dar forma a cómo aparece el contenido en sus plataformas, son quizás una advertencia para permitir que esta evolución ocurra sin pensar. Las plataformas de redes sociales se dejaron rotundamente para operar sin control, hasta que comenzaron a afectar la vida cotidiana, desde la forma en que las personas se sienten acerca de sus cuerpos hasta el resultado de las elecciones democráticas en todo el mundo. En pocas palabras, en los primeros días de las redes sociales, los principales gobiernos locales no estaban creando estrategias sobre cómo manejarlo de manera responsable.

De esta manera, el documento NYC AI es bastante significativo. Incorpora la equidad, la justicia y la participación humana en un plan de gobierno local para nutrir, hacer crecer y gobernar el uso de la tecnología.

Al comienzo del informe, Farmer enfatiza el deseo de Nueva York de asumir la responsabilidad en medio del rápido crecimiento de la IA.

«Como epicentro mundial de la innovación y hogar de casi nueve millones de personas, la ciudad de Nueva York tiene un papel clave que desempeñar en la configuración de este futuro», escribe Farmer. aprovechar al máximo la inteligencia artificial, para proteger a las personas de daños y para construir una sociedad mejor para todos «.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *