「翔平くんはバットと___を買いました。」の空欄に「ボール」だの「グローブ」だの、たまに「現像液」だのを埋めるのが基本的な機能。
その延長で、会話の相手の自然なセリフを作成できるようにしたら、大受けした。
だから、(調整なしの生のAIなら)たとえば「氏ね」と言えば「お前もな」と返すだろうが、それが正しい答えだというわけではない。
まして、世間様の規範だのに合わせるようにごちゃごちゃと不自然な制限を入れてしまった状態では、自然な返答を作成しているとすら言えず、
単に、恣意的なルールでお返事しているだけのチャットボットでしかない。