Последние заголовки подчёркивают повторяющуюся тему: быстрый прогресс в области ИИ меняет дизайн продуктов, политику и практики безопасности, и защитники, регуляторы и компании стремительно пытаются адаптироваться.
Microsoft предупреждает, что злоумышленники используют ИИ быстрее, чем защитники
Microsoft сообщает, что злоумышленники получают преимущество от ИИ, используя его для ускорения поиска уязвимостей, ускоренной разработки вредоносного ПО и оптимизации действий после компрометации. По данным Microsoft, команды безопасности испытывают трудности с тем, чтобы поспевать за столь быстрым темпом.
Ошибка в Mac-приложении ChatGPT подчёркивает, что ПО с ИИ является вектором атаки
Недавно исправленная уязвимость в macOS-приложении ChatGPT показала, что сами клиенты ИИ могут быть уязвимы к эксплойтам, которые раскрывают конфиденциальные данные. Инцидент служит напоминанием о том, что внимание к возможностям агентов должно сочетаться с тщательной проверкой приложений, которые их размещают.
OpenAI’s Dots ориентирована на корпоративные рабочие процессы, сохраняя потребительские удобства
OpenAI представила платформу агентов под названием Dots, которую рецензенты описывают как похожую на рабочее программное обеспечение, но при этом умеющую выполнять задачи в потребительском стиле, например, заказывать еду. Такой подход подчёркивает продуктивность и полезность для бизнеса наряду с повседневным удобством.
Белый дом собрал генеральных директоров, переименовал ИИ в «суперинтеллект» и добился подписания обязательства
На встрече в Белом доме присутствовали почти все крупные технологические руководители — включая Zuckerberg, Bezos, Musk и Dario Amodei из Anthropic — чтобы подписать обязательство по безопасности ИИ, которое президент Дональд Трамп назвал «морально обязательным». Администрация также издала указ, который переименовывает ИИ в «суперинтеллект».
Федеральный судья отклонил антимонопольные иски против ИИ-поиска Google
Федеральный судья отклонил антимонопольные иски, поданные Chegg и Penske, которые оспаривали предложения Google по ИИ-поиску. Это решение временно устраняет эти конкретные юридические претензии к подходу Google к ИИ-поиску.
Ресурсы сообщества по безопасности: доклад о безопасности в эпоху LLM
Недавно появилось видео с презентацией под названием «Greg Kroah-Hartman – Security in the LLM Age», где рассматриваются проблемы безопасности, связанные с крупными языковыми моделями. Оно дополняет продолжающееся техническое и общественное обсуждение того, как защищать системы по мере распространения LLM.
В совокупности эти истории демонстрируют пересекающееся давление: продуктовые команды соревнуются в выпуске функций с ИИ, злоумышленники превращают новые инструменты в оружие, регуляторы и компании обсуждают рамки регулирования, а сообщество специалистов по безопасности продвигает лучшие практики в условиях быстро меняющегося ландшафта.
Оставайтесь в курсе
Получайте релизы, обновления продуктов и анонсы запусков по email. Один список для новостей и продуктов.
Обратная связь
Что думаете?
Оставьте одну реакцию и присоединяйтесь к обсуждению ниже.
Комментарии
0 комментариев