Исследователи в области offensive security, которые ищут неизвестные уязвимости и пишут proof-of-concept эксплойты, сообщают, что ограничения AI-компаний вроде OpenAI и Anthropic мешают их работе. Модели отказываются генерировать код или объяснения для определённых техник, даже когда исследователи действуют легально и с разрешения. Эти ограничения призваны предотвратить злоупотребления, но блокируют и безвредные исследования, направленные на повышение безопасности. Специалисты считают, что защитные механизмы слишком широки, создавая трения, замедляющие обнаружение и раскрытие критических уязвимостей.
Классическая болезнь роста. AI-компании правы, проявляя осторожность. Но осторожность без нюансов превращается в цензуру. Этичные хакеры — хорошие парни. Они ломают, чтобы мы могли чинить. Если их AI-инструменты отказываются помогать, мы все становимся менее защищёнными.
Нужны более умные ограничения. Не тотальные запреты. Контекстно-зависимые системы, понимающие намерения. Представьте будущее, где AI выступает штурманом для этичного хакера. Ускоряет поиск уязвимостей. Делает цифровой мир устойчивее. Вот эволюция, к которой стоит стремиться. А не отступление в страх.