小白杨哨所是中哈边界中国新疆境内塔城裕民县塔斯提边防哨所。 1983年春，哨所的锡伯族战士程富盛，回伊犁察布查尔锡伯族自治县孙扎齐牛录公社探亲。当一家人其乐融融地团坐在一起吃饭时，小程无比自豪地讲述了哨所的光荣历史以及战友们戍边卫国的一些感人事迹，同时也说到了因哨所生活单调、寂寞，以至战友们思乡心切的情况。其中孙龙珍烈士的故事着实让小程的老母亲感佩不已，而儿子所在哨所环境恶劣，炎炎夏日甚至连一棵遮荫纳凉的树都没有的无情现实又使老母亲难过万分，为此她一连几夜都辗转反侧，难以成眠，最终想出了一个好主意。小程离家归队那天，她把自家培育的20棵白杨树苗子郑重其事地交到儿子手中，再三叮嘱说：“锡伯族有卫国戍边的传统，你要像先辈一样，在部队好好干。一定要种活这些树苗，让白杨树陪伴你们守卫好祖国的边防……” 见到程富盛背回的树苗，战友们甭提有多高兴了，大家想象着不久即将告别荒芜、即将有绿树陪伴他们站岗放哨，就会情不自禁地露出无限喜悦之情。但是转念一想到哨所周围多为沙砾石子所覆盖，下面的土质碱性很大，且方圆5公里之内没有水源，小树很难成活的残酷现实，战士们又不免心情沉重起来。

面对困难，大家没有气馁，下了岗哨的战士硬是轮流把黑土从10多公里外背上了哨所。植树那天，官兵们抢着挖坑，尔后再培上黑土、背水浇树，20棵小白杨喜盈盈地排列在哨所的房前屋后。自此，为了这20棵小树尽快成长，战士们一改原先每星期到5公里外的布尔干河背一次水为每天背水一趟，无论狂风暴雨还是烈日炎炎从不间断。同时战士们还改变了生活习惯，每日洗脸不擦香皂，洗衣服不用洗衣粉，以便把这些用过的水积下来，再去浇灌小白杨。即便如此，两个多月后，小白杨因不堪忍受干旱高温、风沙肆虐，有19棵树苗相继枯死，唯有离哨所最近的那棵还在顽强地与大自然抗争着。官兵们为此痛心不已，以致训练没劲，吃饭无味，程富盛则不断地来到那唯一的白杨树下偷偷抹眼泪。在战士们的精心呵护下，这棵小白杨一天天茁壮成长起来。小哨所在枝繁叶茂的小白杨树的装点映衬下，显得更加绿意盎然，生机勃勃，而官兵们则在不时沙沙作响的小白杨树的陪伴下，生活得更加充实、更加快乐了。

官兵们悉心照料小白杨的故事被哨所的一名战士写进了日记，其中有“小白杨陪我一起守边防”的句子。当哨所办宣传板报时，这篇日记遂被抄在了黑板报上。 1982年，已经转业到四川省作协的梁上泉受战友之邀，到新疆军区部队体验生活。新疆多白杨，看到公路边一排排的参天白杨，翠绿威风，笔直挺立，有过多年军旅生涯的梁上泉立刻联想到英姿挺拔的战士们。刚到新疆，恰逢建军节，部队大检阅，梁上泉在观礼台上看到一个方阵又一个方阵，一条直线又一条直线，绿色的军装，挺拔的战士，这不就是一排排的白杨树么?有了这个形象，梁上泉挥笔写了一首《林带阅兵曲》，这首诗为梁上泉后来创作出唱红军内外的《小白杨》作了感情的铺垫和艺术的积累 。

梁上泉在南疆看到，有些边防战士从帕米尔高原轮休下来，看到一棵白杨树，就抱着树大哭，战士们激动地说：“帕米尔高原一片白色，一下山就是绿芽，这是生命的绿色呀！”种种感情的沉淀触动了诗人的心灵，于是诗人急迫地想要写一首诗来赞扬这些守卫祖国边疆的战士，但是迟迟找不到合适的表达方式。

后来，梁上泉又应的邀请，到那里体验生活，时间本来是定的一个月，梁上泉要求再多一个月，后来又要求延长到三个月。部队同志笑着说：延长一个月可以，但你必须为部队写一首歌词。但直到他离开新疆，这首歌词还没写出来。离开新疆之际，军区为梁上泉举行欢送仪式，感谢他为讴歌边防部队不辞辛劳，万里跋涉，真诚地欢迎他以后再次来新疆。梁上泉表示返回后，一定不负厚望，写出力作。

从新疆返回重庆的次年，梁上泉又参加了由中国音乐家协会组织的访问团，赴和大兴安岭林区体验生活。在绵延起伏的中苏边境线上，座座哨所高高耸立，值岗的战士像白杨树一样的挺拔，挺立在边防线上。一天，梁上泉在满洲里附近的一个哨所营区漫步，看到下哨的战士在读书、写家信，一位战士深情地弹吉它，梁上泉问弹的什么曲子，战士回答是家乡的民歌。之后一个拿军用水壶给树苗浇水的战士，吸引了梁上泉，他走了过去。哨所位于干旱地区，每个战士每天擦脸、饮用、漱口等日常用水，只有一军用水壶。水在边防哨所十分紧缺，战士们都舍不得饮用，只有在极度干渴时才抿上一小口，而这个战士却用水浇树苗！梁上泉问： “树苗哪来的?”“妈妈让我从家乡带来的小白杨。”梁上泉望望青春朴实的战士，瞅瞅风中摇曳的小白杨树苗。陡然间，他全身像电流通过一样的颤抖，脑海里映现出在新疆见到的白杨，仿佛所有的参天白杨一起涌现，连排成行，铺天盖地列队而来。储藏在心间想写的那首歌如同瀑布奔涌而出：万里边防线上站着一个又一个这样的年轻的战士，长着一棵又一棵这样的小白杨。

电光石火，点燃了梁上泉的灵感和激情，新疆的小白杨和北疆的小白杨叠加在一起，生活积累和艺术积累终于厚积薄发，喷涌而出。他一下子找到了切入点，笔尖在记事本上不停地划动、删改，忘记了周围的一切，忘记了时间空间，大概只用半小时，就写出了名扬天下的歌词。文章本天成，妙手偶得之。这句名言正是创作过程的生动写照。为了记下这难忘的情节，他特意在文稿上注明：1983年7月16日，呼伦贝尔盟。这就是《小白杨》的诞生时间和地点。 词与曲对一首歌来说，犹如车之两轮，缺一不可，相辅相成，相得益彰。与梁上泉同行的采访团里有著名的作曲家声茂同志，他看到这首歌词后产生了创作欲望，为它谱了曲。但这支曲子刚健有余，柔美不足，没有适应80年代边关军人的审美情趣，因此没有传唱流行开来。不久，梁上泉把这首歌词发表在上，被作曲家士心看到了，他读后深受感动，于是下了一番功夫，为其谱曲。他的曲子既有军人的阳刚之气，又有对家乡和亲人的眷恋之情，刚柔相济，旋律优美，拨动了每个战士的心弦，很快在军营广为传唱，并且迅速流行全社会。

其实，此前这对词曲作者已有过一次合作——尽管他们还不相识。1982年梁上泉去新疆途经石河子时，遇到一个四川人在此开设的名叫“峨眉酒家”的小吃店。在荒僻的北疆，川人艰苦创业，梁上泉对这位敢于闯天下的同乡很敬佩，于是写下诗歌《峨眉酒家》。该诗登载在《人民文学》上，被郁钧剑看见，他将该诗稍加修改，推荐给士心作曲。这首歌很快在社会上广为传唱，阎维文还凭借这首歌获得全国青年歌手大奖赛民族唱法一等奖。由于有过这段缘分，所以士心一看到《小白杨》歌词便爱不释手，尚未谋面的二人再度携手。