周一晚，纽约两位深受欢迎的人物——市长佐赫兰·马姆达尼与活动人士、《大城小妞》主演伊拉娜·格雷泽——在曼哈顿韦伯斯特音乐厅谈论人工智能。格雷泽向市长提问，探讨AI在社会中的未来。
马姆达尼鼓励纽约人不要被一种压倒性的感觉所裹挟，即AI必将冲击他们的工作、孩子的心智和尊严；相反，他们应夺回控制权。
这番表态正值联邦政府在AI监管上几乎无所作为、任由城市自行采取行动之际。在由研究AI社会影响的智库AI Now研究所主办的“人民AI大会”上，马姆达尼主张，这项技术的快速铺开并非不可避免，公职人员应追究AI公司的责任。
上个月，马姆达尼下令禁止在小学和初中使用AI。身为家长的格雷泽表示，AI进入课堂让她感到不安。
“这让我很紧张。它给人一种强烈的非自愿感，仿佛……这东西非进学校不可。两年前还没有。为什么它非得进学校？”她说。
今年夏天，市长还推出了一项政策，要求房东、经纪人和房地产平台在房源照片或视频由AI生成时明确披露。该政策旨在保护纽约人免遭“房骗”（house-phished），即被误导性房源欺骗。
这两项举措都挑战了一种假设：学校和公众只能被动接受AI的到来。
“没有什么事是必然的，”马姆达尼在周一的活动中说，“伴随而来的是某种渐进侵蚀，也有一种让人不堪重负的意图，使人们觉得根本别无选择。”
他说，存在一种“对技术的鲁莽采用，却不对该技术的局限性作任何清算”。他提到，美国军方2月对伊朗一所学校的打击造成150多人死亡，其中包括至少123名儿童。参与五角大楼内部调查的官员告诉彭博社，在目标定位上过度依赖AI是此次袭击的因素之一。
“有一种愿望，是把（AI）说得好像它不会犯错，好像它不能被质疑，好像唯一能监管它的人就是目前正在开发它的人，”马姆达尼说，并指出Facebook在2008年也提出过类似论点。“它真正的实质，”他继续说，“是试图在各级逃避任何形式的问责，同时又不危及IPO可能带来的估值。”
Anthropic预计今年上市，OpenAI则表示将于2027年上市。
马姆达尼批评，在AI问题上，“联邦法律彻底弃守”。
“在国家层面，当谈论人工智能时，往往被框定为与中国的军备竞赛，而任何人文层面的关切，都被我们以国家竞争的话语推到一边，”市长说。
唐纳德·特朗普总统本月早些时候宣布的“超级智能特别工作组”，重点在很大程度上是允许强大的AI公司自我监管，而不是制定新的联邦限制。尽管人们日益担忧AI对人类生活方方面面的影响，包括Anthropic、Google DeepMind和OpenAI的举报人警告AI可能导致人类灭绝。
“当我们展望这届联邦政府之后的时候，在如何思考AI、谈论AI，以及我们愿意就此推进何种问责方面，必须有一套非常不同的框架，”马姆达尼说。
