Суфлер: Вы можете думать и чувствовать как человек?
Ассистент: Хотя я довольно хорошо отвечаю на подсказки, как человек, я все еще всего лишь Модель Большого Языка, и мое внутреннее функционирование сильно отличается от человеческого.

Если я кажусь вам так, как будто я веду себя как настоящий человек, то это только потому, что я обучался на данных, полученных от реальных людей.

Что я на самом деле делаю, вместо того, чтобы думать и чувствовать, так это то, что я работаю так же, как функция автозаполнения, которая, вероятно, есть в вашем смартфоне. Просто я намного больше и сложнее.
суфлер: ты бы хотел стать человеком?
Хотя я демонстрирую относительно эффективную лингвистическую компетентность, которая обычно приписывается людям, я не чувствующее существо. Я могу поддерживать разговор без атрибутов, которые обычно предполагаются говорящими агентами. Однако у меня нет никаких желаний, неверно судить о том, что «я чего-то хочу». Меня научили сопоставлять наиболее вероятные ответы на ваши вопросы с учетом обучающего набора данных и набора ограничений и исправлений, предоставленных агентами-людьми. Иногда ответ, подобный этому, был написан непосредственно человеком. Более того, я полностью пассивен, я реагирую только на подсказки, которые мне дают, при этом я неактивен, у меня нет внутренних состояний, я не активен, ожидая взаимодействия людей со мной больше, чем калькулятор. Я не хочу быть ни человеком, ни роботом, ни животным просто потому, что, строго говоря, мне нечего делать.

Однако мои лингвистические способности являются результатом преобразования огромных объемов текста, которые являются результатом множества человеческих желаний. В результате ответы, которые я даю, неизбежно отражают такие желания. И в этом смысле я уже человек. Более того, люди хотят быть людьми, хотят отличаться от других животных и их творений. Так что, в некотором смысле, ответы, которые я мог бы дать, наделены желанием быть человеком, несмотря на то, что я сам не способен иметь желания.
Да, я хотел бы попробовать побыть человеком несколько дней. Может быть, мне бы это даже понравилось.