Исследователь OpenAI Ноам Браун обратил внимание на необычный сценарий, при котором даже два физически изолированных компьютера теоретически способны обмениваться данными без обычной сетевой связи. В качестве канала могут выступать изменения температуры процессора.
Температурный канал связи

Речь идёт о давно изучаемом в академической среде принципе скрытой передачи данных. Современные CPU, GPU и материнские платы оснащены температурными датчиками, необходимыми для управления охлаждением и защиты от перегрева. Один компьютер может намеренно повышать нагрузку и нагреваться по определённой схеме, а расположенная рядом машина — фиксировать температурные колебания и интерпретировать их как крайне медленный код.
Браун приводит этот пример не как описание уже совершённого побега ИИ из защищённой системы, а как иллюстрацию того, насколько сложно заранее предусмотреть все возможные способы обхода ограничений. По его словам, OpenAI не хочет вновь оказаться в ситуации, когда возможности продвинутых моделей оказываются недооценены.
Особенно актуальным вопрос становится на фоне развития автономных ИИ-агентов, которым поручают всё более сложные задачи в программировании и кибербезопасности. Даже физическая изоляция оборудования, традиционно считающаяся одной из наиболее надёжных мер защиты, при таком подходе перестаёт выглядеть абсолютно непроницаемым барьером.
При этом температурный канал обладает крайне низкой пропускной способностью и остаётся прежде всего исследовательским примером. Тем не менее он хорошо показывает главную проблему безопасности продвинутого ИИ: защищаться приходится не только от очевидных способов передачи информации, но и от методов, которые изначально вообще не рассматривались как средства связи.

Комментарии
Оставляйте комментарии, отвечайте другим пользователям, ставьте плюсы и минусы и добавляйте быстрые реакции.
Войдите в аккаунт, чтобы оставлять комментарии, отвечать другим пользователям и ставить реакции.