来描写：“九泽蕃居使，千年圣主臣。”赞美他的知礼、朴实、诚恳的美德。“野情偏得礼，木性本含仁。”接着写他衣锦还乡的场面，“锦帆乘风转，金装照地新。”最后希望他以后再来中国访问，一片深情溢于言表。
此时55岁的阿倍仲麻吕离开故国已有36载，即将踏上归途，回到父母之邦，拜见久别的的慈亲，使他激动、喜悦。可是留唐岁月也使他铭感难忘，一旦要离别众多的中国友人，又觉怅然若失。这种矛盾心理，充分表露在他的《衔命将辞国》一诗中，他写道：“天中恋明主，海外忆慈亲。”“西望怀恩日，东归感义辰。”诗中一方面写如何怀念祖国和久别的亲人，另一方面则写对第二故乡中国和朝夕相处的友人的依恋之情，感情真挚动人。
到了遣唐使返航船停泊的港口苏州黄泗浦，不少中国友人前来送别。当时正值十一月十五日之夜，皓月当空，阿倍仲麻吕即将登舟之际，遥望明月，乡情油然而生，情不自禁地用日语吟诵了一首和歌：
翘首望东天，神驰奈良边，
三笠山顶上，想又皎月圆。
这就是日本古代和歌中有名的《三笠山之歌》或称《望乡诗》。当时中国友人听不懂日语，他又译为汉语吟咏，众人闻之，感叹不已。不料遣唐使船队入海以后，遭到风暴袭击。藤原大使和阿倍等乘坐的第一艘船被狂风刮走而失踪。后来其余三条船相继回到日本，第一船却仍然不知去向。人们都以为第一艘船上的乘客可能已经全部遇难。
消息传到中国，友人们以为阿倍仲麻吕已死，无不悲痛万分。当时正在苏州漫游的唐朝大诗人李白，闻讯非常难过，含泪写了一首《哭晁卿衡》：
日本晁卿辞帝都，征帆一片绕蓬壶。
明月不归沉碧海，白云愁色满苍梧。
诗中诉说日本的晁衡离开了长安，一片出征的帆影穿过蓬莱岛。接着李白把阿倍比喻成一轮皎洁的明月，沉没于碧波大海之中，给人们带来了无限忧愁和悲哀。
其实，李白只是一场虚惊，阿倍仲麻吕并没有死。第一艘船被漂流到南中国海的安南地方，部分船员于驩州(今越南河静省，当时属唐南海郡)上岸，却又遭到土著袭击。第一艘船上日本乘客死难170多人，仅有阿倍与藤原等10余人幸存。这些幸存者于755年6月历尽艰难长途跋涉回到长安。第二年中国发生了安史之乱，唐朝的黄金时代一去不复返了。阿倍仲麻吕随玄宗入蜀，年余后返京，以后被肃宗任命为左散骑常侍。又奉命赴安南处理事宜，旋任镇南都护。唐代宗时，766年，已经年近古稀的晁衡又被提升为安南节度使，任满后回京，爵封北海郡开国公。770年在长安与世长辞，埋骨中国，享年73岁。为了表彰他的功绩，唐代宗追赠他为潞州大都督。
阿倍仲麻吕虽在唐朝擢升高官崇爵，但他始终没有忘记自己的祖国，曾多次写信，托朝鲜新罗使节带回本国，以寄乡思。因此日本古籍《古今集钞》中说：“仲麻吕在唐凡五十余年，身虽荣贵，思归不已，言及乡国，未尝不悽恻也。”当时唐朝对日本的交涉事务，常由晁衡参与或主持，为中日友好与文化交流作了许多贡献。836年仁明天皇追赠其正二位，诏书中高度评价阿倍仲麻吕：“身涉鲸波，业成麟角，词峰耸峻，学海扬漪，显位斯升，英声已播。”(《大日本史·阿倍仲麻吕传》)