Поделиться
На GitHub-аккаунте Azure появился репозиторий с новым проектом — Counterfit. Его основной задачей является тестирование чужого искусственного интеллекта (ИИ) на защищённость от атак. Дополнительного «шарма» проекту добавляет его «опенсорсность».
Представители Microsoft рассказали, что их прошлые исследование показали острую нужду разработчиков в инструменте, способном выявить уязвимости в ИИ.
Всего есть два способа быстрого запуска инструмента: деплоить через Azure или настроить окружение Anaconda Python и установить локально.
Деплой через Azure
Перейти по ссылке, чтобы начать развёртывание небольших ресурсов в своей учетной записи Azure.
В колонке конфигурации укажите свою подписку и группу ресурсов.
Запустить команду в Azure Shell, заменив RESOURCE_GROUP на группу ресурсов, выбранную в предыдущем пункте: az container exec —resource-group RESOURCE_GROUP —name counterfit —exec-command ‘/bin/bash’
Запустить Counterfit внутри контейнера: python counterfit.py
Локальная установка
Установить Anaconda Python и git.
Клонировать репозиторий, выполнив команду в Терминале: git clone https://github.com/Azure/counterfit.git
Открыть Anaconda Shell и создать виртуальное окружение и зависимости:
cd counterfit
conda create —yes -n counterfit python=3.7
conda activate counterfit
pip install -r requirements.txt
Запускается Counterfit также, как и в предыдущем методе: python counterfit.py
Подробнее о проекте можно узнать на его GitHub-странице.
Источник: GitHub/Azure
Источник: