Побаловался я тут вечерком с якобы искусственным интеллектом но построенным на нейросетях ChatGPT. Дал ему понять, кто я такой и кто я по жизни. И если оно и вправду запоминает, мошенники, злоумышленники и прочие мутные личности ведь могут это как-то использовать в плохих целях. Сливать базы номеров, пароли и т.д. Полагаю, разработчики подумают над тем, как опознавать такие данные и фильтровать их. Например, прямо сейчас бот может не отвечать на некоторые вопросы и темы.
UPD: проверил, не запомнил)