確定申告時に領収書は提出しなければならない？

領収書の提出義務はありません。保存しておく義務だけです。帳簿の作成義務とは別の話です。
確定申告の際には、作成した収支内訳書と申告書を提出するだけです。
領収書については、税務調査が行われた場合に、提示できるように保存しておけばそれで事足ります。場合によっては、領収書のコピー（写し）をとったり、領収書等を預り書類として一時的に署に持ち帰る（留置き）ことはあり得ます。