Appel zette zich al snel af tegen de traditionele kunstopvattingen van de kunstacademie om zich te storten op het experimenteren met nieuwe vormen. Het is terug te zien in zijn vroege werk dat sterk beïnvloed is door de kubistische vormentaal van Pablo Picasso (1881-1973). In 1946 besloten Appel en Corneille naar Luik te reizen, en een jaar later werd hier hun werk geëxposeerd. Ook bezochten de twee Parijs, waar Appel onder de indruk raakte van het werk van Jean Dubuffet (1901-1985), waarin kinderen en geesteszieken een belangrijke rol speelden. Bij terugkomst in Nederland kwam Appel via Corneille in aanraking met de kunstenaar Constant (1920-2005). In 1948 exposeerde dit drietal in Amsterdam. Appel was voortdurend bezig met het ontwikkelen van een eigen beeldtaal, waarbij hij veel inspiratie haalde uit kindertekeningen en primitieve volkskunst. Op 16 juli 1948 richtten Appel, Corneille en Constant samen met Anton Rooskens (1906-1976), Theo Wolvecamp (1925-1992), Jan Nieuwenhuijs (1922-1986) en Eugène Brands (1913-2002) de Experimentele Groep in Holland op. Later traden ook de experimentele dichters Jan G. Elburg (1919-1992), Lucebert (1924-1994) en Gerrit Kouwenaar (1923-2014) toe. De leden van de Experimentele Groep in Holland legden contacten met vergelijkbare groeperingen uit Denemarken en België. Op 8 november in datzelfde jaar werd na afloop van een congres van surrealisten in Parijs de kunstenaarsbeweging Cobra (1948-1951) opgericht: een internationale beweging van experimenteel werkende kunstenaars. Appel, Corneille en Constant waren samen met Deense en Belgische kunstenaars de medeoprichters.

Ook na het uiteenvallen van Cobra in 1951 bleef Appel experimenteren. Zo bracht hij de verf steeds dikker aan op het doek en maakte hij krachtige, dikke lijnen en vlakken die elkaar overlappen. Naast het vervaardigen van schilderijen maakte hij ook sculpturen, veelal bestaande uit beschilderde, figuratieve reliëfs van afvalhout. In deze zogeheten assemblages was Appel, duidelijk onder invloed van primitieve volkskunst, op zoek naar een wezenlijk spontane, experimentele kunstuiting. In 1957 besloot hij te verhuizen naar New York, de Verenigde Staten, en kwam hier in aanraking met verschillende jazzmuzikanten. Het was hun experimentele manier van werken die hem zo aansprak, en hij zag hierin gelijkenissen met het Cobra gedachtengoed. Appel bracht steeds dikkere lagen verf – soms direct vanuit de tube – aan op het doek en modelleerde dit soms met zijn handen. Het werk van Appel werd tentoongesteld tijdens de Biënnale van São Paulo (1953) en vanaf 1954 had hij grote solotentoonstellingen in Parijs en New York (Martha Jackson Gallery). Tot op de dag van vandaag is het werk van Appel internationaal verspreid over vele belangrijke museale- en particuliere collecties.