吳玉章到日本後參加了一係列愛國學生運動，成為四川留日學生中的積極分子。
1904年元旦，因清朝末年中國的貧弱，日本看不起中國，懸掛萬國旗時，故意不掛中國國旗。他挺身而出，代表留日學生向學校當局嚴正提出：“必須立刻向中國學生道歉並糾正毛病，否則，就要舉辦罷課和絕食以示抗議。”在強大壓力下，學校當局隻得認錯道歉。
當時，革命文字盛行，如鄒容的《革命軍》，留日學生的《浙江潮》《江蘇》等雜誌，隨著這些讀物的影響，他的思想也隨之變化，認為革命是對的。
當時，讀書人多看不起孫中山，1905年孫中山到東京後，他和另外一些最激進的革命派，就和孫中山一起組織了革命同盟會。
同年，留日學生反對“取締規則”運動失敗後，一個團結學生的群眾組織“留學生會館”竟至無人過問。他一人支持了9個多月，終於感動了大家，恢複了組織。
1907年以後，由於起義接連失敗，東京留學生中革命者寥寥可數。他卻因此更加堅定振奮，把四川的同盟會員鼓舞起來，以團結各省的革命者。當時他主辦《四川雜誌》；章太炎主辦《民報》。《民報》經費困難，常至斷炊，他竭力調和奔走，後來在四川會員中捐了許多錢去支持《民報》。1908年，《四川雜誌》與《民報》同時被封，他被判半年徒罪，因為是學生，結果緩期執行。
當時革命形勢低落，暗殺成風，但他卻不讚成暗殺。當時汪精衛寫信要他寄些製造炸彈的藥品，他回信說：“征諸曆史，各國革命失敗時，則暗殺之風必盛。誠以誌士仁人知大勢已去，唯有一死以報國。其誌可嘉，其行亦可憫矣。今我革命非無希望，敵人正造謠說革命處處失敗，以圖渙散我革命之人心。兄為我黨有名而能文之士，如果亦隨吾黨勇壯之士實行暗殺，即使有成，亦徒使敵人造謠，誌士灰心，而黨亦受莫大損失。弟不讚成此舉，故不能寄藥品來。”
汪又回寄信說：
“來信愛弟深摯，令人感激。但弟以為革命之事譬如煮飯：煮飯之要具有二，一曰釜，一曰薪釜之為德在一恒字，水不能蝕，火不能融，水火交煎，皆能忍受，此正如我革命黨人百折不撓，再接再厲。薪之為德在一烈字，炬火熊熊，火焰萬丈，顧體質雖毀，借其餘熱可以熟飯，此正如我革命黨人一往獨前，舍生取義。二者之為德孰輕孰重，頗難軒輊，要在各視其性之所近，擇一而行之耳。弟自顧素鮮恒德，故不願為釜而願為薪。兄如愛我，望即賜寄各物。”
他雖不讚成暗殺，但看到汪精衛當時似乎頗為堅決，也就給其寄了些炸藥去。汪精衛在香港謀炸李準不成，又到東京。吳玉章又為汪精衛炸攝政王布置一切，派喻雲紀、黃複生到北京開守真照像館，進行籌備。不久暗殺尚未舉行，而黃複生、汪精衛被捕。
1905年，同盟會組織了對清朝官員的暗殺活動。吳玉章對在漢口謀炸兩江總督端方進行了周密的謀劃。不過，這次行動，因為端方臨時改變行走路線，未能實現謀炸的意圖。隨後，他又與人計劃，集中力量去刺殺清政府最高掌權者、攝政王載灃，另外，還有幾次暗殺行動。雖然暗殺均未成功，但是卻驚醒了國人，鼓舞了國人起來反對封建專製的勇氣。
不久，他為發動廣州起義，被分配到日本購運槍支彈藥，並向香港運送了五批軍火。
有一次，他去購運軍火，左右腋下，各掛了千餘發子彈，外穿一件日本和服，腳蹬一雙約四寸高的高底木屐，手上還打把傘。這負擔，自然沉重，稍有不慎就會屐齒折斷。誰知，剛走出秘密住所，就遇到兩個警察，大家頓時緊張，為他捏了把汗，但他卻沉著冷靜地擺脫了警察，把軍火安全運到了目的地。
還有一次，一位同誌把120支手槍裝進不到2尺長的皮箱裏，引起了火車站管理人員的懷疑。他知道這事後，想了許多辦法，居然把皮箱安全地取了出來，化險為夷。
民國元年(1912年)正月，蜀軍政府派他和楊庶堪為四川代表到南京。當時，臨時政府已成立。內務部次長居正和秘書長田桐一見到他就說：“可惜你來遲了，各部次長位置已經沒有了。內務部的司長參事隨你選擇一個。”他卻說：“我們革命不是為做官；請你們不要提這個。”後來的疆理局(即土地局)局長特意頒發了參事任命狀，仍被其退回。
後來孫中山要他到總統府秘書處工作，他才接受了秘書處總務科的職務。當時正值南北和議，因此很多人不願來秘書處做事，隻有他勤勤懇懇工作。
南北和議成功後，四川的成渝兩個軍政府還是對立著。袁世凱托人讓他作宣慰使到四川調停。他卻回答說：“我不作官；而且對故鄉父老怎麽可以用什麽宣慰使的名義？”後來，袁世凱隻得依他意見，改由政府派往四川慰問。他這才和朱芾煌一起回川。
回川後，有人問他：“從都督和全城官員郊迎十裏來看，你們好像是欽差大臣。但從你們輕車簡從，到處親切地和老百姓談話、講演來看，你們又像是傳道師。你們到底是什麽官？”
他笑著回應說：“我們不是官，是革命者。我們要勸老百姓剪辮子，不吃鴉片，不賭錢，不纏足，要讀書識字，要辦學校，要到外國留學。我們辦了一個留法儉學會，有誌青年用很少的錢就可以到法國去留學。”
1912年初，他和李石曾等在北京發起成立了留法儉學會。6月，他又在成都與朱芾煌、沈與白、黃複生等成立了留法儉學會四川分會。同時他們依照北京的做法，在四川設留法儉學預備學校。11月，第一批出國學生出發，40餘人中四川就有16個人。
1916年6月22日，華法教育會在法國正式成立，他任會計。他說：“我非常希望吾國青年目光注於全世界，勇猛精進，必窮究世界學術之精微，由自主的擇一自信者而力行之。在國家危急中痛自刻責，發奮為雄，以求生存於世界者也。”
隨著新文化運動的傳播，留法勤工儉學的性質也發生了相應的變化。1919年3月15日，他在上海送別留法學生時講話說：“此次世界大戰而後，政治革新之聲遍於全球，我們國人亦知順此潮流研究改革。”他又尖銳地指出：“政治不良，政府惡劣，補救無方，人民起來革命，這是應該的。”“謀大多數人的幸福……為社會開一新紀元。”
1922年春，他在北京會見了王維舟，兩人當時就組織新政黨發表了看法，並成立“赤心社”。是年8月，他到成都任成都高等師範學校校長，開始宣傳社會主義。1924年1月，他在成都創建了中國青年共產黨，這是他革命道路上的新起點，是對中國革命探索的新結果。中國青年共產黨成立後，注重工人運動，支持成都各行業工人建立起屬於自己的工會組織——成都職工總會。同年5月1日，追悼列寧的群眾大會召開，會議遭到軍閥強烈壓製，他被迫離開成都回到榮縣老家。
不久他到北京見到了中共領導人，並通過介紹加入了中國共產黨。這時他才感覺到中國青年共產黨已無存在必要，不久後解散，不少成員先後加入中國共產黨。
中國青年共產黨，雖然從籌備到解散隻有5年左右，但是，他們在四川、北京宣傳馬列主義，為救國圖強、聚集革命中堅分子產生了巨大的影響。