出為總管延綏丹三州諸軍事、延州刺史。四年，卒於鎮。贈恆朔等五州刺史。 標無子，以弼子椿嗣。先以標勛功，封魏平縣子。
大象末，開府儀同三司、大將軍、右宮伯，改封河東郡公。 于謹字思敬，河南洛陽人也。小名巨彌。曾祖婆，魏懷荒鎮將。祖安定，平涼郡守、高平郡將。
父提，隴西郡守，荏平縣伯。保定二年，以謹着勛，追贈使持節、柱國大將軍、太保、建平郡公。 謹性沉深，有識量，略窺經史，尤好孫子兵書。屏居閭裡，未有仕進之志。或有勸之者，謹曰 ：「州郡之職，昔人所鄙，台鼎之位，須待時來。
吾所以優遊郡邑，聊以卒歲耳 。」太宰元穆見之，嘆曰 ：「王佐材也。」 及破六汗拔陵首亂北境，引茹茹為援，大行台仆射元纂率眾討之。宿聞謹名，闢為鎧曹參軍事，從軍北伐。茹茹聞大軍之逼，遂逃出塞。
纂令謹率二千騎追之，至鬱對原，前後十七戰，盡降其眾。後率輕騎出塞覘賊，屬鐵勒數千騎奄至，謹以眾寡不敵，退必不免，乃散其眾騎，使匿叢薄之間，又遣人升山指麾，若分部軍眾者。賊望見，雖疑有伏兵，既恃其眾，不以為慮，乃進軍逼謹。謹以常乘駿馬一紫一騧，賊先所識，乃使二人各乘一馬，突陣而出。賊以為謹也，皆爭逐之。
謹乃率余軍擊之，其追騎遂奔走，因得入塞。 正光四年，行台廣陽王元深治兵北伐，引謹為長流參軍，特相禮接。所有謀議，皆與謹參之。乃使其子佛陀拜焉，其見待如此。遂與廣陽王破賊主斛律野谷祿等。
時魏末亂，群盜蜂起，謹乃從容謂廣陽王曰 ：「自正光以後，海內沸騰，郡國荒殘，農商廢業。今殿下奉義行誅，遠臨關塞，然醜類蟻聚，其徒實繁，若極武窮兵，恐非計之上者。謹願稟大王之威略，馳往喻之，必不勞兵甲，可致清蕩 。」廣陽王然之。謹兼解諸國語，乃單騎入賊，示以恩信。
於是西部鐵勒酋長乜列河等，領三萬餘戶並款附，相率南遷。廣陽王欲與謹至折敷嶺迎接之。謹曰 ：「破六汗拔陵兵眾不少，聞乜列河等歸附，必來要擊。 彼若先據險要，則難與爭鋒。今以乜列河等餌之，當競來抄掠，然後設伏以待，必指掌破之 。」廣陽然其計。拔陵果來要擊，破乜列河于嶺上，部眾皆沒。謹伏兵發，賊遂大敗，悉收得乜列河之眾。魏帝嘉之，除積射將軍。 孝昌元年，又隨廣陽王征鮮于修禮。
軍次白牛邏，會章武王為修禮所害，遂停軍中山。侍中元晏宣言于靈太后曰 ：「廣陽王以宗室之重，受律專征，今乃盤桓不進，坐圖非望。又有于謹者，智略過人，為其謀主。風塵之隙，恐非陛下之純臣矣。」靈太后深納之。
詔于尚書省門外立牓，募能獲謹者，許重賞。謹聞之，乃謂廣陽曰 ：「今女主臨朝，敢信讒佞，脫不明白殿下素心，便恐禍至無日。謹請束身詣闕，歸罪有司，披露腹心，自免殃禍。」廣陽許之。謹遂到牓下曰 ：「吾知此人。」眾人共詰之。謹曰 ：「我即是也 。」有司以聞。靈太后引見之，大怒。謹備論廣陽忠款，兼陳停軍之狀。
靈後意稍解，遂舍之。尋加別將。 二年，梁將曹義宗據守穰城，數為邊患。乃令謹與行台尚書辛纂率兵討之。 相持累年，經數十戰。
進拜都督、宣威將軍、冗從仆射。孝莊帝即位，除鎮遠將軍，尋轉直寢。又隨太宰元天穆討葛榮，平邢杲，拜征虜將軍。從爾朱天光破万俟醜奴，封石城縣伯，邑五百戶。普泰元年，除征北大將軍、金紫光祿大夫、散騎常侍。
又隨天光平宿勤明達，別討夏州賊賀遂有伐等，平之，授大都督。從天光與齊神武戰于韓陵山，天光既敗，謹遂入關。賀拔岳表謹留鎮，除衛將軍、咸陽郡守。 太祖臨夏州，以謹為防城大都督，兼夏州長史。及岳被害，太祖赴平涼。
謹乃言于太祖曰 ：「魏祚陵遲，權臣擅命，群盜蜂起，黔首嗷然。明公仗超世之姿，懷濟時之略，四方遠近， 咸所歸心。願早建良圖，以副眾望。」太祖曰：「何以言之？」謹對曰 ：「關右，秦漢舊都，古稱天府，將士驍勇，厥壤膏腴，西有巴蜀之饒，北有羊馬之利。今若據其要害，招集英雄，養卒勸農，足觀時變。
且天子在洛，逼迫群凶，若陳明公之懇誠，算時事之利害，請都關右，帝必嘉而西遷。然後挾天子而令諸侯，奉王命以討暴亂，桓、文之業，千載一時也 。」太祖大悅。會有敕追謹為（關）〔合〕內大都督 ，謹因進都關中之策，魏帝納之。 尋而齊神武逼洛陽，謹從魏帝西遷。
仍從太祖征潼關，破回洛城，授使持節、車騎大將軍、儀同三司、北雍州刺史，進爵藍田縣公，邑一千戶。大統元年，拜驃騎大將軍、開府儀同三司。其年，夏陽人王游浪聚據楊氏壁謀逆，謹討擒之。是歲，大軍東伐，謹為前鋒。至盤豆，東魏將高叔禮守險不下，攻破之。
拔虜其卒（又）〔一千〕。因此拔弘農，擒東魏陝州刺史李（征）〔徽〕伯。齊神武至沙苑，謹從太祖與諸將力戰，破之，進爵常山郡公，增邑一千戶。又從戰河橋。拜大丞相府長史，兼大行台尚書。
稽胡帥夏州刺史劉平叛，謹率眾討平之。除大都督、恆並燕肆雲五州諸軍事、大將軍、恆州刺史。入為太子太師。九年，復從太祖東征，別攻柏谷塢，拔之。邙山之戰，大軍不利，謹率其麾下偽降，立於路左。
齊神武軍乘勝逐北，不以為虞。追騎過盡，謹乃自後擊之，敵人大駭。獨孤信又集兵士于後奮擊，齊神武軍遂亂，以此大軍得全。十二年，拜尚書左仆射，領司農卿。及侯景款附，請兵為援，太祖命李弼率兵應之。
謹諫曰 ：「侯景少習兵權，情實難測。且宜厚其禮秩，以觀其變。即欲遣兵，良用未可 。」太祖不聽。尋復兼大行台尚書、丞相府長史，率兵鎮潼關，加授華州刺史，贈秬鬯一卣，圭瓚副焉。
俄拜司空，增邑四百戶。十五年，進位柱國大將軍。 齊氏稱帝，太祖征之，以謹為後軍大都督。別封一子鹽亭縣侯，邑一千戶。魏恭帝元年，除雍州刺史。
初，梁元帝平侯景之後，于江陵嗣位，密與齊氏通使，將謀侵軼。其兄子岳陽王察時為雍州刺史，以梁元帝殺〔其〕兄譽，遂結讎隙。據襄陽來附，仍請王師。乃令謹率眾出討。太祖餞于青泥谷。
長孫儉問謹曰 ：「為蕭繹之計，將欲如何？」謹曰 ：「耀兵漢、沔，席捲渡江，直據丹陽，是其上策；移郭內居民，退保子城，峻其陴堞，以待援至，是其中策；若難於移動，據守羅郭，是其下策。」儉曰：「揣繹定出何策？」謹曰：「必用下策 。」儉曰：「彼棄上而用下，何也？」對曰：「蕭氏保據江南，綿曆數紀。屬中原多故，未遑外略。又以我有齊氏之患，必謂力不能分。
且繹懦而無謀，多疑少斷。愚民難與慮始，皆戀邑居，既惡遷移，當保羅郭。所以用下策也 。」謹乃令中山公護及大將軍楊忠等，率精騎先據江津，斷其走路。梁人豎木柵于外城，廣輪六十里。
尋而謹至，悉眾圍之。梁主屢遣兵于城南出戰，輒為謹所破。旬有六日，外城遂陷。梁主退保子城。翌日，率其太子以下，面縛出降，尋殺之。
