Илон Маск, сооснователь Apple Стив Возняк и более тысячи ведущих экспертов в области искусственного интеллекта и представителей IT-индустрии призвали остановить обучение нейросетей, превосходящих GPT-4.
В открытом письме говорится, что подобные ИИ-системы должны разрабатываться только после того, как появится уверенность в том, что они не будут представлять серьезную опасность для всего человечества. Необходимо создать специальные протоколы и стандарты безопасности, за применением которых будут следить независимые аудиторы.
«В последние месяцы началась неконтролируемая гонка по разработке и внедрению все более мощных цифровых разумов, которые никто — даже их создатели — не в состоянии понять, предсказать или надежно контролировать».
Пока предлагается приостановить работы временно — как минимум на шесть месяцев. Эту паузу хотят использовать для совместного продумывания вопросов регулирования отрасли.
