お疲れ様です。先輩だって忙しいんですから返信しなかったくらいどうってことありません。
それに、もとは俺の無神経な態度が原因なんです。●●さんは何も悪くありませんし、だから俺に謝罪なんてする必要はありませんよ。

早く仕事を終わらせて帰りましょう。出来たら、今日は一緒に。
→仕事の後、声を掛けて謝る