小鱼山公园是青岛最佳风景眺望点之一，一是因为它位于市中心，是青岛离海最近的一座山，地理位置绝佳;二是因为它的海拔仅60米，爬山不累，登到山顶能看到“红瓦绿树，碧海蓝天”最具青岛代表性的景色。
小鱼山山顶有三层八角阁览潮阁，高18米，顶覆绿色琉璃瓦。沿着盘旋楼梯登阁观景，近处是一幢幢掩映在绿树中红瓦黄墙的德式建筑，往东南能见到第一海水浴场金色的沙子接连着蔚蓝的大海，往东北能见到太平山上的青岛电视塔，往西天气好时能分辨出远处的小青岛和栈桥，往北能拍摄到信号山公园的.全景，信号山山腰上的迎宾馆和山顶三幢红顶蘑菇楼清晰可见。晚上则可以在山上拍摄青岛市的夜景。
览潮阁西边有六角亭碧波亭，东边有四角亭拥翠亭，同样顶覆绿色琉璃瓦，都能观景。连接着览潮阁和拥翠亭的曲廊正面，有白色浮雕，现代字“小”、“山”和古老象形文字“鱼”构成了小鱼山的山标，你可以和它合影，山标旁还有漂亮的壁画。此外，小鱼山的南坡，有将青岛著名建筑集中起来的微缩模型，感兴趣的话也可以看看。
小鱼山公园附近景点众多，基本都沿着海岸线，往西你可以按栈桥-海军博物馆-小青岛-鲁迅公园-小鱼山公园的路线来游览，往东可以看看康有为故居，第一海水浴场，八大关，最后到太平角看日落。
此山原无正名，后因靠近鱼山路而获"小鱼山"之称。山虽不高却能远眺，登山俯瞰，栈桥、小青岛、鲁迅公园、海水浴场、八大关等景观尽收眼底;山虽不大却因地处市区而颇显突出，为游人视线所瞩。
小鱼山主建筑为"览潮阁"，三层八角高18米，阁内有螺旋式的楼梯，外设护栏平台，人们可沿平台绕阁一周，饱览"蓝天、碧海、青山、绿树、红瓦、黄墙"这一青岛的独特风貌。山之西坡有一挑檐式六角亭，因站在亭内可一览碧波荡漾的汇泉湾，故取名"碧波亭";。东面是四角的"拥翠亭"，其风格与"碧波亭"相似。上述三处的匾额皆由著名艺术大师吴作人先生题字。
览潮阁和拥翠亭连接处的曲廊正面，有一直径两米的白色雪花石浮雕山标。山标周围是黑色大理石象形文字和壁画。北廊壁上镶嵌着瓷板釉上彩壁画《八仙过海》，东廊壁上镶嵌着大型瓷板釉上彩壁画《蒲松龄宇宙》。
整个小鱼山公园的建筑设计围绕"海"之主题进行，突出"鱼"的图案造型，把自然美、建筑美和艺术美融为一体，在建筑风格上颇具特点。
小鱼山公园的树木以五角枫为主，配合园林建筑新植黑松、银杏、樱花、千首兰等各种常绿树和花灌木。