領収書をもらう場合はレシートは返さなければならないもの？

おっしゃるとおり手書きの領収書を発行した場合は必ずレシートは回収されます。
これは、そもそもレシートも領収書に該当するからです。スーパーマーケットやコンビニエンスストアなどのキャッシュレジスター（レジ）でロール紙などに印字され手渡しされる"レシート"も、領収書の一つなのです。しかし日本においては、レジで機械的に印字されるものをレシートと称することが多く、名宛人の記載もないことからレシートでは領収書として使えないという認識があります。実際は、税務上もレシートでも領収書として扱われます。
その支出が費用として認められるかどうかは別問題ですが・・・。

不正防止の観点から、領収書は二重に発行することはできませんので、手書きの領収書を発行する場合、最初に発行されたレシートは回収しなければならないのです。