A publicação do livro atraiu a atenção das autoridades francesas. Atraindo também o interesse de Karl Marx, que começou a se corresponder com seu autor. Os dois influenciaram-se mutuamente: eles se encontraram em Paris por ocasião do exílio de Marx. A amizade de ambos finalmente chegou ao fim quando Marx respondeu ao seu texto Sistema das Contradições Econômicas, ou A Filosofia da Miséria com outro provocativamente intitulado A Miséria da Filosofia.
A disputa tornou-se uma das origens da divisão entre as alas marxistas e anarquistas nos encontros da Associação Internacional dos Trabalhadores. Alguns, como Edmund Wilson, argumentam que o ataque de Marx a Proudhon tem sua origem na defesa prévia do segundo de Karl Grün, o qual Marx abertamente detestava e que havia sido o autor de traduções do trabalho de Proudhon para diversos idiomas.
Proudhon favoreceu as associações dos trabalhadores ou cooperativas, bem como o propriedade coletiva dos trabalhadores da cidade e do campo em relação aos meios de produção, em contraposição à nacionalização da terra e dos espaços de trabalho. Ele considerava que a revolução social poderia ser alcançada através de formas pacíficas.
Em Confissões de um Revolucionário Proudhon afirmou que Anarquia é Ordem, uma frase que muito mais tarde inspirou, o símbolo anarquista conhecido como A no círculo, hoje, muito comum em pichações e grafites presentes na paisagem urbana. Neste símbolo o círculo simboliza a letra "O" da palavra "Ordem", levando em seu interior a letra "A" da palavra "Anarquia".
Proudhon também tentaria criar um banco operário, semelhante em alguns aspectos, às atuais cooperativas de crédito que beneficiaria os trabalhadores com empréstimos sem juros. Mal-lograda a tentativa, a ideia seria apropriada por capitalistas e acionistas que incorporariam imposição de juros em seus empréstimos.
De origem humilde, começou a trabalhar cedo, numa tipografia, onde entrou em contato com liberais e socialistas experimentais, que representavam as mais importantes correntes políticas de sua época. Assim conheceu Charles Fourier, que muito influenciaria suas idéias. Em 1838, já diplomado pela faculdade de Besançon, foi para Paris, onde em 1840 publicou Qu´est-ce que la propriéte? (Que é propriedade?). Nessa obra se afirma anarquista, criticando a propriedade privada. Sustentava que a exploração da força de trabalho de um semelhante era um roubo e que cada pessoa deveria comandar os meios de produção de que se utilizasse.
Em 1842 lançou algumas teses em Avertissement aux propriétaires (Advertência aos proprietários) e foi processado. No entanto acabou sendo absolvido, pois os juízes se declararam incompetentes para julgá-lo. Depois disso foi para Lyon, onde se empregou no comércio. Nesse período entrou em contato com uma sociedade secreta que defendia uma doutrina segundo a qual uma associação de trabalhadores da nascente indústria deveria administrar os meios de produção. Com isso esperavam transformar as estruturas sociais, não pela atração econômica mas pela revolução violenta.
Em Paris, Proudhon conheceu Karl Marx e outros revolucionários, como Mikhail Bakunin.
Em 1846 escreveu Système des contradictions économiques, ou philosophie de la misère (Sistemas de contradições econômicas ou filosofia da miséria), onde criticou o autoritarismo comunista e defendeu um estado descentralizado. Marx, que admirava Proudhon, leu a obra, não gostou, e respondeu a Proudhon em 1847 com Misère de la philosophie (Miséria da filosofia), decretando o rompimento de relações entre ambos.
Proudhon participou da Revolução de 1848 em Paris. Entre 1849 e 1852 ficou preso por causa de suas críticas direcionadas a Napoleão III. Em1851 escreveu Idée générale de la révolution au XIX siècle ("Idéia geral de revolução no século XIX"), que colocava a visão de uma sociedade federalista de âmbito mundial, sem um governo central, mas baseada em comunas autogeridas. Os comunistas acabaram por tachá-lo dereacionário, quando defendeu uma união entre proletários e burgueses.
Depois de publicar, em 1858, De la justice dans la révolution et dans l'église("A justiça na revolução e na igreja"), obra totalmente anticlerical, passou a viver sob vigilância da polícia, o que o levou a se exilar em Bruxelas. Em 1864 voltou a Paris e publicou Du Principe fédératif ("Do princípio federativo"), uma síntese de suas concepções políticas.
As idéias de Proudhon se espalharam por toda a Europa, influenciando organizações de trabalhadores e os mais fortes movimentos sindicais que se manifestaram na Rússia, Itália, Espanha e na França.
Proudhon sempre foi um confesso cristão. Se dizia seguidor de cristo e do cristianismo, um anarquista cristão.
As idéias de Proudhon, assim como as de Owen, eram opostas ao liberalismo. Denunciam a organização econômica, governamental e educacional, propondo a criação de sociedades cooperativas de produção.
Já Saint-Simon, difere de Owen e Proudhon por defender a industrialização e o desenvolvimento do Estado.
Paralelamente Marx e Engels foram os principais críticos do socialismo utópico, fundando o chamado socialismo científico.
O pensamento de Proudhon, assim como o de Fourier e Saint-Simon, era voltado para uma reorganização da sociedade, tendo como princípio a justiça. Essa justiça seria a base da harmonia social, mas também do pensamento humano e até mesmo das relações físicas.
Segundo Proudhon, o homem deveria abandonar a condição econômica e moral baseada na sujeição a outros homens - que levaria à desarmonia social. A nova sociedade deveria apoiar-se no mutualismo, uma forma de cooperação baseada em associações, sem o poder coercitivo do Estado.