2003年发行首张创作专辑《乐行者》，2004年凭《江南》一曲成名，获得第15届台湾金曲奖最佳新人奖。2007年成立个人音乐制作公司JFJ Productions，负责单曲及专辑制作;2008年创立潮流品牌SMG;2012年发行故事影像书《记得》，成功跻身畅销书作家行列。2013年至2015年举办“时线Timeline世界巡回演唱会”和安可场“时线：新地球世界巡回演唱会”，唱遍4大洲、31个城市，刷新个人纪录。
2014年以专辑《因你而在 Stories Untold》夺得第25届台湾金曲奖最佳国语男歌手奖;2016年6月25日，凭借专辑《和自己对话》和歌曲《不为谁而作的歌》分别获得第27届台湾金曲奖最佳国语男歌手奖和最佳作曲人奖 。
2016年7月7日， 推出个人首部音乐纪录片《听·见林俊杰》。8月21日，凭借歌曲《不为谁而作的歌》获得第三届美国Pensado Awards最佳外语歌曲奖。11月4日，以常驻导师身份加盟的浙江卫视《梦想的声音》节目开播。
林俊杰是近年来华语乐坛少数优秀的创作型歌手之一，以R&B的唱腔及旋律优美的曲式見長。林俊杰早期的作品实验性较高，曲风多元，以慢板情歌及舞曲为主轴，同时融入Hip-Hop、摇滚、电子等音乐元素，在华人地区奠定了广泛的听众基础。
因声带受损导致失声后，音乐作品及唱腔丕变，以第7张创作专辑《100天》为分水领，风格由花俏繁复转趋温暖简朴。2011年与海蝶唱片公司解约后，音乐作品均由其自行创立的JFJ Production公司制作，录音室作品品质大幅提高，近期音乐作品多以抒情及人文为主題，逐渐竖立其新古典浪漫主义的音乐品牌风格。
林俊杰是新加坡成功立足世界华语流行乐坛的代表歌手之一。得益于双语文化的成长背景，他能够自如地在作品中将其对个人、对社会风貌的感知与思考融会贯通，从而引发具有相似文化背景听众的情感共鸣。
因此，他的部分创作也超越了大众娱乐，提升为传达社会公益讯息的渠道，如汶川地震期间的励志歌曲《爱与希望》。
除具备广受认可的音乐素养与创作才能，其对社会公益活动的热忱也使得其自身超越艺人形象，为国家和社会承担了更多推广文化的职能。
