Kemunculannya di panggung politik pergerakan dimulai di usia belia, 14 tahun. Saat itu, tahun 1914, ia bergabung dengan Sarekat Islam (SI) afdeeling Surabaya. Setahun kemudian, 1915, bertemu dengan Sneevliet dan diajak masuk ke Indische Sociaal-Democratische Vereeniging, organisasi sosial demokrat Hindia Belanda (ISDV) afdeeling Surabaya yang didirikan Sneevliet dan Vereeniging voor Spoor-en Tramwegpersoneel, serikat buruh kereta api dan trem (VSTP) afdeeling Surabaya. Pekerjaan di Staatsspoor akhirnya ditinggalkannya pada tahun 1916 sejalan dengan kepindahannya ke Semarang karena diangkat menjadi propagandis VSTP yang digaji. Penguasaan bahasa Belanda yang baik, terutama dalam membaca dan mendengarkan, minatnya untuk terus memperluas pengetahuan dengan belajar sendiri, hubungan yang cukup dekat dengan Sneevliet, merupakan faktor-faktor penting mengapa Semaoen dapat menempati posisi penting di kedua organisasi Belanda itu.
Di Semarang, ia juga menjadi redaktur surat kabar VSTP berbahasa Melayu, dan Sinar Djawa-Sinar Hindia, koran Sarekat Islam Semarang. Semaoen adalah figur termuda dalam organisasi. Di tahun belasan itu, ia dikenal sebagai jurnalis yang andal dan cerdas. Ia juga memiliki kejelian yang sering dipakai sebagai senjata ampuh dalam menyerang kebijakan-kebijakan kolonial.
Pada tahun 1918 dia juga menjadi anggota dewan pimpinan di Sarekat Islam (SI). Sebagai Ketua SI Semarang, Semaoen banyak terlibat dengan pemogokan buruh. Pemogokan terbesar dan sangat berhasil di awal tahun 1918 dilancarkan 300 pekerja industri furnitur. Pada tahun 1920, terjadi lagi pemogokan besar-besaran di kalangan buruh industri cetak yang melibatkan SI Semarang. Pemogokan ini berhasil memaksa majikan untuk menaikkan upah buruh sebesar 20 persen dan uang makan 10 persen.
Bersama-sama dengan Alimin dan Darsono, Semaoen mewujudkan cita-cita Sneevliet untuk memperbesar dan memperkuat gerakan komunis di Hindia Belanda. Sikap dan prinsip komunisme yang dianut Semaoen membuat renggang hubungannya dengan anggota SI lainnya. Pada 23 Mei 1920, Semaoen mengganti ISDV menjadi Partai Komunis Hindia. Tujuh bulan kemudian, namanya diubah menjadi Partai Komunis Indonesia dan Semaoen sebagai ketuanya.
PKI pada awalnya adalah bagian dari Sarekat Islam, tapi akibat perbedaan paham akhirnya membuat kedua kekuatan besar di SI ini berpisah pada bulan Oktober 1921. Pada akhir tahun itu juga dia meninggalkan Indonesia untuk pergi ke Moskow, dan Tan Malaka menggantikannya sebagai Ketua Umum. Setelah kembali ke Indonesia pada bulan Mei 1922, dia mendapatkan kembali posisi Ketua Umum dan mencoba untuk meraih pengaruhnya kembali di SI tetapi kurang berhasil.
Pada tahun 1923, VSTP merencanakan demonstrasi besar-besaran dan langsung dihentikan oleh pemerintah kolonial Belanda, dan setelah itu Semaun diasingkan ke Belanda. Selama masa pengasingannya dia kembali ke Uni Sovyet, dimana dia tinggal disana lebih dari 30 tahun. Pada masa itu dia tetap menjadi aktivis tapi hanya dalam aksi-aksi terbatas, berbicara beberapa kali di Perhimpunan Indonesia, organisasi mahasiswa di Belanda pada masa itu. Dia juga sempat belajar di Universitas Tashkent untuk beberapa waktu.
Selama pembuangan ke Eropa, Semaoen aktif di Executive Committee of the Comintern, Komite Eksekutif Komunis Internasional (ECCI). Setelah beberapa tahun tinggal di Belanda, Semaoen lalu menetap di Uni Soviet dan menjadi warga negara di sana. Ia pernah bekerja sebagai pengajar bahasa Indonesia dan penyiar berbahasa Indonesia pada radio Moscow. Puncak "kariernya" adalah ketika diangkat oleh Stalin menjadi pimpinan Badan Perancang Negara (Gozplan) di Tajikistan.
Setelah masa pengasingannya dia kembali ke Indonesia, dan pindah ke Jakarta. Kepulangan Semaoen ke Indonesia pada tahun 1953 merupakan inisiatif Iwa Kusumasumantri. Semaoen, Iwa, dan Sekjen Partai Komunis Iran mengawini tiga putri kakak-adik yang saat itu bekerja dalam Comintern. Saat kembali ke Indonesia dalam usia setengah abad lebih, Semaoen telah terputus dari PKI, partai yang ia dirikan. Dari tahun 1959 sampai dengan tahun 1961 dia bekerja sebagai pegawai pemerintah. Dia juga mengajar mata kuliah ekonomi di Universitas Padjadjaran, Bandung.