Как Clark остаётся под вашим контролем.

Если вы присматриваетесь к автономному ИИ-оператору для своей компании, первый вопрос звучит так: безопасно ли это и как его контролировать. Программа, которая может действовать от имени вашего бизнеса, должна выдержать такую проверку раньше, чем получит доступ к вашим входящим.

Контроль остаётся у вас, потому что он встроен в то, как Clark работает, и он держится даже тогда, когда оператор действует самостоятельно. Ваш Clark живёт на собственной изолированной машине. Всё, что он делает, записывается обычными словами, и это можно отменить. Любое действие с настоящим весом останавливается и ждёт вашего утверждения, прежде чем произойти. Всегда есть чистая кнопка выключения, которая возвращает работу вам вместе с полной записью всего, что было сделано.

Эти четыре части и составляют всю модель. Дальше в статье мы разбираем их по очереди, в форме вопросов, которые основатели задают, прежде чем подпустить программу к своему бизнесу.

Безопасен ли ИИ-оператор и как его контролировать?

В отличие от чат-бота, оператор действует: отправляет ответ, обновляет запись, назначает звонок и продвигает задачу на шаг ближе к готовности. Когда программа может действовать, безопасность зависит от границ вокруг её действий.

Clark считает эти границы частью продукта. Контроль здесь — свойство системы, и он не зависит от того, ведёт ли оператор себя идеально. Он держится на четырёх механизмах:

• Изоляция: ваши данные и ваш оператор живут на собственной машине.
• Журнал обычными словами: вы можете перечитать всё, что произошло, и отменить это.
• Шлюз утверждений: действия с последствиями ждут вашего «да».
• Кнопка выключения: вы можете завершить работу одним движением и сохранить запись.

Вся отрасль смотрит в ту же сторону. Публичные рекомендации вроде NIST AI Risk Management Framework описывают надёжный ИИ через управление, прозрачность и человеческий надзор. Clark построен по тем же принципам, и разделы ниже показывают, как это выглядит на практике.

Где на самом деле живут данные моей компании?

Каждый Clark работает на собственной изолированной размещённой машине, и между компаниями ничего не передаётся. Ваш оператор, ваши файлы и ваша рабочая память находятся в одном месте, которое принадлежит только вашему аккаунту.

Своя машина, своё хранилище

Поскольку машина выделена лично вам, нет общего пула, где контекст одного клиента мог бы забрести в сессию другого. Ваши учётные данные и подключения лежат в хранилище, привязанном к вашему оператору, и используются только для вашей работы.

Оператор полезен только тогда, когда может дотянуться до настоящих систем, например до входящих, календаря и инструментов. Изоляция делает такой доступ безопасным: вы даёте доступ к рабочему пространству, которое принадлежит вам, и видите, что именно внутри него лежит. Как это устроено, рассказано в разделе о безопасности.

Как мне узнать, что мой оператор сделал сегодня?

Каждое действие Clark записывается обычными словами. Журнал читается как текст, который один человек написал для другого: что произошло и почему. День можно пройти так же, как вы читали бы записку толкового коллеги при передаче дел.

Обычными словами и обратимо

Две вещи делают журнал чем-то большим, чем квитанция.

Во-первых, он написан так, чтобы его понимали. Каждая запись говорит, что оператор сделал, чего коснулся и какой результат получил.

Во-вторых, работу внутри вашего рабочего пространства можно отменить. Если Clark что-то набросал, рассортировал, пометил или обновил, а вы хотите вернуть всё как было, откатить это можно по журналу.

Clark со временем выстраивает понимание вашей компании, и это понимание остаётся читаемым для вас, поэтому его можно поправить. О том, как эта память формируется и накапливается, мы писали в статье про граф компании.

Что мешает ему сделать то, что я бы никогда не одобрил?

Некоторые действия нельзя тихо отыграть назад. Деньги, ушедшие со счёта, уже не вернуть, а ответ, подписанный вашим именем, на другом конце уже прочитан. Clark намеренно относится к таким действиям иначе.

Что ждёт вашего «да» и почему

Действия с настоящим весом останавливаются и ждут утверждения владельца, прежде чем выполниться. В список входит, например, такое:

• Отправка денег или подтверждение платежа.
• Подпись и отправка ответа, который уходит от вашего имени.
• Всё, что имеет реальные внешние последствия для бизнеса или клиента.

Большую часть работы можно отменить, и журнал это обеспечивает. Когда действие выходит за пределы вашего рабочего пространства в реальный мир, отмена уже не гарантирована, и решение возвращается к человеку. Если вы утверждаете, оператор продолжает, а если отклоняете, он останавливается. Суждение в моменты с высокими ставками остаётся за вами.

Весомые действия останавливаются по самой конструкции, поэтому вам не нужно помнить о том, чтобы включить шаг утверждения, и обычный день рутинной работы никогда не усыпит вас настолько, чтобы вы пропустили тот единственный момент, который имел значение.

Как его остановить?

В любой момент вы можете забрать работу обратно. Кнопка выключения чистая: оператор перестаёт действовать, а полная запись того, что он сделал, остаётся у вас.

Чистая передача дел и вся запись на месте

Когда вы останавливаете оператора, журнал остаётся, состояние рабочего пространства сохраняется, и вы можете продолжить ровно с того места, где оператор остановился, или передать тот же контекст человеку. Штрафа за отступление нет.

Это меняет само ощущение от первой попытки поработать с оператором, потому что вы никогда не заперты внутри запущенного процесса. Выход есть всегда, и он не стоит вам ничего, кроме той работы, которую оператор продолжил бы делать.

Как здесь зарабатывается доверие?

Доверие к программе должно зарабатываться доказательствами, и эти доказательства должны копиться там, где вы их видите. Clark устроен так, что доверие растёт по мере использования.

Вы начинаете с оператора на коротком поводке: изолирован, логируется, останавливается перед всем, что имеет последствия, выключается одним движением. Вы читаете обычными словами, что он делает, и сами утверждаете весомые решения. За дни и недели вы видите рисунок его работы и решаете, сколько ещё ему передать. С первого дня система просит вас проверять её работу и делает проверку лёгкой.

Механизмы держатся независимо от того, следите ли вы внимательно, и вознаграждают вас, когда следите. Ответы на частые вопросы о том, как это выглядит на практике, собраны в FAQ Clark.

Чего ИИ-оператор не может?

Прямо говорить о границах тоже часть надёжности.

Clark — программа, которая следует правилам, заданным вами, и границам, которые обеспечивает система. Он хорошо справляется с широким кругом операционных задач и при этом будет время от времени ошибаться, неверно читать ситуацию или упираться в край своих возможностей. Конструкция исходит из этого: журнал, утверждения и кнопка выключения существуют потому, что ни один оператор, человек или программа, не бывает прав каждый раз.

Два ограничения стоит назвать прямо:

• Правила задаёте вы. Область действий оператора — ровно та, которую вы ему выдали, и он не расширяет свои полномочия втихую. Если он дотягивается до какой-то системы, значит, вы её к нему подключили.
• Решения с высокими ставками принадлежат человеку. Шлюз утверждений стоит там по замыслу: Clark готовит и предлагает, а потом ждёт, пока человек даст окончательное «да» на всё с реальными последствиями.

Эти ограничения позволяют спокойно опираться на полезную часть работы, потому что вы всегда знаете, что оператор может и чего не может решить сам.

Вывод

Автономный ИИ-оператор безопасен в работе, когда безопасность встроена в саму систему. Clark даёт вам изолированную машину, понятную и обратимую запись, шаг утверждения перед всем, что имеет вес, и чистую кнопку выключения. Вы выдаёте доступ, задаёте правила и оставляете за собой последнее слово в решениях, которые имеют значение.

Сейчас Clark доступен в Public Beta за 250 € в месяц, и цена закреплена, пока вы остаётесь подписаны, при цене запуска в 488 € в месяц. Если хотите рассмотреть модель контроля вблизи, начните с раздела о безопасности. Больше о компании, которая стоит за Clark, можно прочитать на сайте Weblyfe.

Оператору можно дать настоящую работу и при этом держать запись, утверждения и кнопку выключения в собственных руках.